توضیح‌نامه‌ی ۰۷

دو دروازه: هویت و گفتار

بیش‌تر سکوها یک دروازه دارند: چه کسی می‌تواند پست بگذارد؟ پاسخ‌شان معمولن تایید ایمیل، تایید شماره‌ی تلفن یا CAPTCHA است. جمهور دو دروازه دارد، چون تهدید در هر لایه متفاوت است.

تهدیدی که در برابر آن دفاع می‌کنیم «حرف بد» نیست. تهدید این است که یک جناح هماهنگ — وابسته به حکومت یا غیر آن — با هویت‌های واقعی و قانونی وارد سکو شود و آن را با محتوایی پر کند که به خشونت دامن می‌زند، نسل‌کشی را انکار می‌کند، اقلیت‌ها را غیرانسانی نشان می‌دهد یا شکنجه را عادی‌سازی می‌کند.

یک دروازه‌ی منفرد نمی‌تواند هم جلوی سیبیل‌ها (هویت‌های جعلی) را بگیرد و هم جلوی تسخیر (آدم‌های واقعی، با نیت اشتباه) را. به دو دروازه نیاز داریم.

دو نقطه‌ی گلوگاه

هر دو دروازه ضروری‌اند. هیچ‌کدام به‌تنهایی کافی نیست. اگر فقط دروازه‌ی هویت را داشتیم، یک جناح هماهنگ با گذرنامه‌های واقعی می‌توانست سکو را تسخیر کند. اگر فقط دروازه‌ی گفتار را داشتیم، ربات‌ها پیش از آن‌که هیچ بررسی‌ای معنا داشته باشد سکو را غرق می‌کردند.

دروازه‌ی ۱ — هویت (مرور)

جزئیات در توضیح‌نامه‌های ۰۴ و ۰۵ آمده. در یک جمله: هر کاربر، در حالت دانش‌صفر، اثبات می‌کند که یک گذرنامه‌ی بیومتریک ایرانی یا کارت ملی هوشمند (INID) صادرشده از سوی دولت ایران در اختیار دارد، و nullifier روی زنجیره تضمین می‌کند که یک سند نمی‌تواند دو بار ثبت‌نام شود.

این دروازه به ما این‌ها را می‌دهد:

• یک سند واقعی به ازای هر ثبت‌نام.
• مقاومت قوی در برابر مزارع ربات، سیبیل‌های کم‌هزینه، و کمپین‌های نفوذ دولتی خارجی که به ذخیره‌ی گذرنامه‌ی ایرانی دسترسی ندارند.
• یک هویت پایدار و ناشناس (pairwise subject به‌ازای هر نهاد تکیه‌کننده به زیرساخت جمهور) برای رای‌گیری و SSO.

این دروازه این را به ما نمی‌دهد:

• بررسی نمی‌کند که آن شخص از نظر ارزش‌ها و نیت چه کسی است. عضو سپاه با گذرنامه‌ی معتبر دقیقن به همان آسانی از این دروازه عبور می‌کند که یک فعال دانشجویی اپوزیسیون با گذرنامه‌ی معتبر. این درست همان نکته‌ی دانش‌صفر است — ما نمی‌دانیم کدام کدام است — اما به این معناست که دروازه نمی‌تواند در برابر هویت‌های قانونی‌اما‌تسخیرشده دفاع کند.

اینجا دروازه‌ی دوم وارد می‌شود.

دروازه‌ی ۲ — انطباق هنجاری

به‌صورت ساختاری، ما خود را به یک محدودیت روی محتوایی که از راه جمهور منتشر می‌شود متعهد می‌کنیم: محتوا نباید ۱۱ کنوانسیون حقوق بشر سازمان ملل را که ایران به آن‌ها ملحق شده یا که هنجارهای آمرانه (jus cogens) را تدوین می‌کنند، به‌همراه اصول یوگیاکارتا نقض کند:

1. اعلامیه‌ی جهانی حقوق بشر (UDHR)
2. میثاق بین‌المللی حقوق مدنی و سیاسی (ICCPR)
3. میثاق بین‌المللی حقوق اقتصادی، اجتماعی و فرهنگی (ICESCR)
4. کنوانسیون پیشگیری و مجازات جنایت نسل‌کشی
5. کنوانسیون منع شکنجه (CAT)
6. کنوانسیون بین‌المللی رفع همه‌ی اشکال تبعیض نژادی (ICERD)
7. کنوانسیون حقوق کودک (CRC)
8. کنوانسیون رفع همه‌ی اشکال تبعیض علیه زنان (CEDAW)
9. کنوانسیون حقوق افراد دارای معلولیت (CRPD)
10. کنوانسیون بین‌المللی حمایت از همه‌ی افراد در برابر ناپدیدسازی اجباری (CED)
11. اساسنامه‌ی رم دیوان کیفری بین‌المللی (جنایات جنگی، جنایت علیه بشریت، نسل‌کشی)
12. اصول یوگیاکارتا و یوگیاکارتا+۱۰ (کاربست حقوق بشر بین‌الملل بر گرایش جنسی، هویت جنسیتی، بیان جنسیتی و ویژگی‌های جنسی — حامی اقلیت‌های جنسی و جنسیتی)

این‌ها ارزش‌های داخلی جمهور نیستند. این‌ها حداقلِ کف حقوقی-اخلاقی‌ای هستند که جامعه‌ی بین‌المللی روی آن توافق کرده — و مهم‌تر، همان کفی که حکومت فعلی ایران نظام‌مند نقض می‌کند. با کنترل گفتار بر اساس این کنوانسیون‌ها، تضمین می‌کنیم که هر کس بخواهد از جمهور برای ادامه‌ی همان نقض‌ها استفاده کند، در لایه‌ی سکو متوقف شود.

بررسی به‌صورت مکانیکی چگونه اجرا می‌شود

• مدل. یک مدل زبانی بزرگ با توان استدلال معنایی. پس از MVP از Claude 3.5 Sonnet روی AWS Bedrock بهره می‌بریم؛ در MVP از یک مدل متن‌باز کوچک‌تر با همان پرامپت به‌کاربرده می‌شود.
• زبان. پرامپت‌ها و چارچوب بومی فارسی. کنوانسیون‌ها به ترجمه‌ی فارسی بارگذاری می‌شوند؛ مدل هم محتوای کاربر و هم بندهای مربوط کنوانسیون را به یک زبان می‌بیند.
• نقطه‌ی اتصال. پیش از انتشار، در API آگورا. بررسی پس از امضای پست از سوی کاربر (یعنی پس از عبور از دروازه‌ی هویت) و پیش از ذخیره یا انتشار آن اجرا می‌شود. اگر رد شود، کاربر دلیل را می‌بیند و می‌تواند بازنویسی کند.
• این یک طبقه‌بند سمیّت نیست. طبقه‌بندهای سمیّت بی‌ادبی یا فحش را در سطح کلمه علامت می‌گذارند. انطباق هنجاری یک کار استدلال معنایی است: آیا این محتوا نقض یکی از ۱۱ کنوانسیون را تبلیغ، توجیه یا عادی‌سازی می‌کند؟ «مخالفت با سیاست دولت» اشکالی ندارد. «این گروه قومی سزاوار آنچه بر سرشان آمد بود» ندارد. این تمایز به استدلال نیاز دارد، نه به تطبیق کلیدواژه.

چرا این یک دفاع ساختاری در برابر تسخیر است

مدل تهدید واقعی ما این است:

یک جناح — مثلن یک گروه سازمان‌یافته‌ی هم‌سو با حکومت، گرچه همین تحلیل برای هر بازیگر بدهماهنگی صدق می‌کند — تصمیم می‌گیرد در مقیاس بزرگ وارد جمهور شود. گذرنامه‌ی ایرانی واقعی دارند (ایرانی واقعی‌اند). از دروازه‌ی هویت صادقانه عبور می‌کنند. پس از ورود، هماهنگ می‌شوند تا:

• پیشنهادها را با رای‌گیری گروهی منحرف کنند،
• گفت‌وگو را با تکست‌پوینت‌های حکومتی پر کنند،
• خشونت دولتی را در رشته‌ی کامنت‌ها عادی‌سازی کنند،
• صداهای مخالف را ارعاب کنند،
• محتوایی منتشر کنند که اگر تعهدات حقوق بشری در ایران اجرا می‌شدند، غیرقانونی می‌بود.

دروازه‌ی هویت نمی‌تواند جلوی این را بگیرد. nullifier فقط تضمین می‌کند یک رای به‌ازای هر گذرنامه — بررسی نمی‌کند که به چه رای می‌دهند. سکو در رویه‌ها دموکراتیک به‌نظر می‌رسد و در نتیجه تسخیرشده است.

دروازه‌ی گفتار پای انتشار این حمله را قطع می‌کند. رای‌گیری هماهنگ باز هم اتفاق می‌افتد (و رای‌گیری درجه‌دوم به‌علاوه‌ی شفافیت آرا کمک می‌کند آن را افشا کنیم)، اما لایه‌ی محتوا — همان بخشی که حس‌وحال سکو و آنچه کاربر تازه می‌بیند را شکل می‌دهد — در برابر محتوایی که کف حقوق بشر را نقض می‌کند محدود می‌شود.

یک جناح هم‌سو با حکومت می‌تواند روی جمهور علیه اعتراضات ژینا مهسا امینی استدلال کند. اما نمی‌تواند از جمهور بهره ببرد تا بگوید معترضان سزاوار کشته‌شدن بودند. این تفاوت است.

این دروازه چه چیزی نیست

درباره‌ی این‌که چه نمی‌کنیم بسیار صریح هستیم، چون حالت شکست هر دروازه‌ی محتوایی این است که بیش‌از‌حد ادعا کند و سپس یا بیش‌از‌حد سانسور کند یا کم‌تر‌از‌حد تحویل دهد.

• تعدیل سیاسی نیست. ما محتوایی را به این دلیل که با سیاستش مخالفیم مسدود نمی‌کنیم. چارچوب همان ۱۱ کنوانسیون است، نه خط سرمقاله‌ی جمهور.
• گزینش روزنامه‌نگارانه نیست. ما محتوا را تبلیغ، رتبه‌بندی یا توصیه نمی‌کنیم. بررسی در زمان انتشار قبول/رد است، نه رتبه‌بندی.
• خطاناپذیر نیست. مدل‌های زبانی در هر دو جهت اشتباه می‌کنند. مثبت‌های کاذب (مسدود شدن گفتار مشروع) و منفی‌های کاذب (عبور محتوای مضر) رخ خواهند داد. ما متعهد می‌شویم به:
  • اعتراض شفاف: هر مسدودسازی همراه با بندِ کنوانسیون مورد استناد و یک مسیر اعتراض یک‌کلیکی فرستاده می‌شود.
  • آمار منتشر‌شده: شمارش ماهانه‌ی مسدودسازی‌ها و اعتراض‌ها به‌تفکیک کنوانسیون، به‌صورت ناشناس.
  • بازبینی متخاصم: یک شورای بیرونیِ فناوری مدنی / حقوق بشر هر فصل از تصمیمات نمونه‌گیری می‌کند.
• نظارت نیست. مدل محتوا و pairwise subject کاربر (به‌ازای هر نهاد تکیه‌کننده به زیرساخت جمهور) را می‌بیند. نشانی کیف پول، داده‌ی گذرنامه یا هیچ هویت بین‌سکویی را نمی‌بیند. استنتاج به‌صورت گذرا اجرا می‌شود؛ ما زنجیره‌ی استدلال مدل را متصل به هویت کاربر، فراتر از خود تصمیم، ذخیره نمی‌کنیم.

محدودیت‌های شناخته‌شده‌ای که باید بپذیریم

صادقانه. این‌ها واقعی‌اند و وانمود نمی‌کنیم.

1. پوشش زبانی. مدل در فارسی و انگلیسی بهترین عملکرد را دارد. کوردی، ترکی آذربایجانی و گویش‌های عربی رایج در ایران ضعیف‌ترند. این را پیگیری می‌کنیم و موارد با اطمینان پایین را به بازبینی انسانی می‌فرستیم.
2. رانش مدل. رفتار مدل‌های زبانی با بروزرسانی مدل پایه تغییر می‌کند. ما نسخه‌ی مدل را تثبیت می‌کنیم و در هر تغییر یک مجموعه‌ی ارزیابی ثابت را دوباره اجرا می‌کنیم. اعداد منتشر خواهند شد.
3. حملات بازنویسی هماهنگ. یک حریف ماهر می‌تواند با لفاظی از بررسی‌های معنایی فرار کند. این یک مسابقه‌ی تسلیحاتی است؛ ادعا نمی‌کنیم آن را برده‌ایم. کاهش‌دهنده، هم‌نشینی دو دروازه است — محتوای فرار‌از‌بازنویسی از یک ارتش سیبیل را آماری بسیار آسان‌تر می‌توان شناسایی کرد تا همان محتوا از چند کاربر واقعی، چون حجم آن را لو می‌دهد.
4. مثبت‌های کاذب هزینه دارند. وقتی به‌اشتباه یک کاربر مشروع را مسدود می‌کنیم، اعتماد را فرسایش می‌دهیم. مسیر اعتراض به‌اندازه‌ی خود مسدودسازی مهم است.
5. ما اپراتوریم، نه داور. لایه‌ی فنی — دروازه‌ی هویت ZK، بررسی گفتار با LLM، رای‌گیری روی زنجیره — از سوی ما ساخته و اداره می‌شود. اما چارچوبی که تعیین می‌کند چه چیز از دروازه‌ی گفتار رد می‌شود، تفسیر حقوقی ۱۱ کنوانسیون، معیارهای شمول که تعیین می‌کنند دروازه‌ی هویت باید به چه گروه‌هایی خدمت کند، و نظارت مستقلی که هر دو را ممیزی می‌کند — هیچ‌کدام به‌تنهایی در دست ما نیست. به بخش بعدی نگاه کنید.

چه کسانی واقعن دروازه‌ها را اداره می‌کنند

سکویی که تیم فناوری همزمان چارچوب را می‌نویسد، قانون را تفسیر می‌کند، تصمیم می‌گیرد چه کسی به‌حساب می‌آید، و تکالیف خودش را نمره می‌دهد، به‌صورت ساختاری یک سکوی تسخیرشده است. برای جلوگیری از این، دو دروازه از سوی یک کنسرسیوم لایه‌ای از نقش‌های متمایز اداره می‌شوند، نه از سوی جمهور به‌تنهایی:

ویژگی کلیدی تمایز است، نه واگذاری. هر نقش مسئول یک کارکرد مشخص است و به‌صورت عمومی پاسخگوست. اپراتور فناوری نمی‌تواند بی‌سروصدا چارچوب را بازنویسی کند. سرپرست نمی‌تواند بی‌سروصدا یک مدار جدید عرضه کند. شورای حقوقی نمی‌تواند بی‌سروصدا یک کشور به ریشه‌ی اعتماد اضافه کند. هیچ نقطه‌ی شکست منفردی نمی‌تواند سکو را تسخیر کند.

این همان اصل ساختاری طراحی دو دروازه است: گلوگاه‌ها را از هم جدا کن، به هرکدام یک مدافع متفاوت بده، و توافق همه را الزام کن. در دل دروازه‌ی گفتار، این یعنی چارچوب، حقوق، شمول و نظارت همگی در دستان متفاوت‌اند.

ما متعهد می‌شویم به انتشار:

• ترکیب هر نقش (کدام سازمان‌ها هر کارکرد را در دست دارند)،
• پروتکل تصمیم‌گیری میان آن‌ها (چه چیزی نیاز به بازبینی اجماعی دارد، چه چیزی صلاحدید عملیاتی است)،
• هر تغییر در چارچوب، با ذکر نقشی که آن را پیشنهاد داده است.

تا زمان استقرار کامل کنسرسیوم، اپراتور فناوری تغییرات چارچوب را به‌صورت یک‌جانبه منتشر می‌کند، با یک پنجره‌ی بازبینی ۱۴ روزه که در طی آن هر طرف می‌تواند به‌صورت عمومی اعتراض کند.

خلاصه‌ی مناسب برای رسانه

اگر دارید جمهور را برای یک روزنامه‌نگار، یک سازمان غیردولتی، یک نهاد سازمان ملل یا یک سرمایه‌گذار نقل می‌کنید، این‌ها صحیح‌اند:

• دو دروازه، نه یکی. هویت (اثبات‌های ZK گذرنامه) و گفتار (انطباق هنجاری در برابر ۱۱ کنوانسیون حقوق بشر سازمان ملل).
• مدل تهدید، تسخیر سکو از سوی جناح‌های قانونی-اما-هماهنگ است، نه ربات‌ها و نه حرف بد.
• دروازه‌ی گفتار تعدیل سیاسی نیست. یک کف است، نه یک سقف. کف، اجماع بین‌المللی حقوق بشر است.
• هر دو دروازه قابل ممیزی‌اند. اثبات‌های هویت روی زنجیره هستند. تصمیمات گفتار همراه با بند مورد استناد و مسیر اعتراض فرستاده می‌شوند؛ آمار منتشر می‌شود.
• هر دو دروازه محدودیت‌هایی دارند که آن‌ها را صریح نام می‌بریم. دروازه‌ی هویت نمی‌تواند هویت‌های قانونی-اما-تسخیرشده را تشخیص دهد. دروازه‌ی گفتار خطاهای طبقه‌بندی دارد و در فارسی قوی‌تر از زبان‌های دیگر ایرانی اجرا می‌شود. ترکیب از هرکدام به‌تنهایی قوی‌تر است.
• هیچ دروازه‌ای را جمهور به‌تنهایی اداره نمی‌کند. اپراتور فناوری سامانه را می‌سازد و اجرا می‌کند؛ یک سرپرست نهادی چارچوب را مدیریت می‌کند؛ یک شورای حقوقی آن را در برابر حقوق بشر ممیزی می‌کند؛ یک شبکه‌ی ورود فراگیر تضمین می‌کند که گروه‌های به‌حاشیه‌رانده در سکوت کنار گذاشته نمی‌شوند؛ یک شورای مشورتی مستقل تصمیمات را بازبینی می‌کند و می‌تواند بازنگری را الزام کند. تمایز این نقش‌ها، خودِ نکته است.

واژه‌نامه

← بعدی: ورود با جمهور