هوش مصنوعی دشمن دموکراسی است یا دوست آن؟

به گزارش خبر‌نویس، کامپیوترها همیشه ماشین‌های حکمرانی بوده‌اند؛ ابزاری در خدمت بوروکراسی‌ها برای سازمان‌دهی و اعمال قدرت، مدلی برای فهم رفتار بوروکراسی‌ها، و در حالی که خود نوعی سازمان کوچک بوروکراتیک هستند. هوش مصنوعی مولد نیز از این قاعده مستثنی نیست؛ این فناوری به‌احتمال زیاد شیوه رفتار سازمانی دولت‌ها، شرکت‌ها و نهادهای دیگر را دگرگون خواهد کرد.

مدل‌های زبانی بزرگ (LLMs) و سامانه‌های مشابه، به‌سرعت وارد میدان قدیمی رقابت بر سر قدرت سیاسی شده‌اند؛ از دخالت ایلان ماسک در تصاحب سازمان‌های دولتی با کمک هوش مصنوعی گرفته تا رقابت فناورانه میان آمریکا و چین. پرسش اساسی این است: آیا این فناوری‌ها با حکمرانی دموکراتیک سازگارند یا تهدیدی برای بقای آن محسوب می‌شوند؟

به نوشته فارن پالیسی، طراحان هوش مصنوعی در انتخاب اینکه «هوش» را کیفیتی واحد و مستقل فرض کنند، ناخودآگاه به سمت ساخت سامانه‌هایی رفته‌اند که معماری متمرکز نهادهای استفاده‌کننده از آن‌ها را بازتاب می‌دهند. در تاریخ هوش مصنوعی، راه‌حل‌هایی که به سمت تمرکز و کنترل از بالا می‌روند، همواره بر راه‌حل‌های توزیع‌شده غلبه داشته‌اند. دولت‌ها و شرکت‌های بزرگ هم این گرایش را تقویت کرده‌اند، زیرا در این معماری بازتابی از مفروضات ایدئولوژیک و سازمانی خود می‌بینند. با این حال، آینده الزاماً دنباله گذشته نیست؛ شاید هوش مصنوعی غیرمتمرکز نیازمند شکستن مفروضات بنیادین این حوزه باشد.

هشدار پیتر تیل

پیتر تیل در یک سخنرانی در سال ۲۰۱۹ گفت که هوش مصنوعی فارغ از نوع و رویکردش به‌طور ذاتی ماهیتی اقتدارگرایانه دارد. او آن را «کمونیستی» خواند و گفت ممکن است منجر به بازگشت جهان پیش از سیلیکون‌ولی شود که در آن «چند شرکت بزرگ، چند دولت بزرگ و چند کامپیوتر بزرگ همه‌چیز را کنترل می‌کنند.» او آینده ساخته‌شده در سیلیکون‌ولی را آینده‌ای توصیف کرد که در آن «تمرکز عظیم» و «شرکت‌هایی شبیه دولت» بر تمام اطلاعات جهان چیره‌اند و کامپیوترهای «تمامیت‌خواه» بیش از خود افراد درباره‌شان می‌دانند.

تیل تلویحاً فرض می‌کرد که هوش مصنوعی آن نوع هوشی را که برای جامعه انسانی حیاتی است، بازتولید نمی‌کند. در کار و زندگی روزمره، بخش زیادی از اطلاعات و محاسبات مورد نیاز ما بیرون از ذهنمان انجام می‌شود – در منابع بیرونی، قواعد، نهادها و همچنین در همکاری با دیگر انسان‌ها. دانش و توانمندی‌های ارزشمند، معمولاً در یک مکان متمرکز و قالب استاندارد واحد وجود ندارند. گاهی نیازمند آزمون‌وخطا و تکرار هستیم، و اطلاعات ممکن است به‌دلیل زمان یا ترتیب دسترسی محدود شود.

فریدریش هایک استدلال کرده بود که دانش یک برنامه‌ریز مرکزی بسیار کمتر از دانش توزیع‌شده افراد در بازار است. نمونه بارز امروز شرکت TSMC تایوان است. حتی اگر چین تایوان را تصرف کند و تأسیسات ساخت تراشه TSMC را به‌دست آورد، به‌سادگی قادر به کنترل کامل آن‌ها نخواهد بود، زیرا تولید تراشه محصول شبکه‌ای جهانی از تولیدکنندگان، تأمین‌کنندگان و متخصصان است.

برای هوش مصنوعی این یک معضل است. بازآفرینی ظرفیت‌های هماهنگی میان نهادها یا بازارها دشوارتر از ساختن یک «نابغه درون جعبه» است. بیشتر سیستم‌های هوش مصنوعی به‌جای هماهنگ‌سازی توان جمعی، بر حل مسائل بهینه توسط یک عامل منفرد تمرکز می‌کنند.

یک الگوی تکراری

تاریخچه هوش مصنوعی الگوی تکراری دارد: زمانی‌که منابع محاسباتی کم بود (مثل شطرنج در دهه ۱۹۵۰)، پژوهشگران سعی کردند از روش‌های انسانی الگوبرداری کنند. اما با پیشرفت سخت‌افزار، روش‌های brute force جایگزین شد و راهبردهای هوشمندانه کنار گذاشته شدند. با وجود قدرت پردازشی عظیم، نتیجه اغلب ناامیدکننده بوده است؛ «هوش مصنوعی عمومی» همواره نزدیک به نظر می‌رسد اما هیچ‌وقت محقق نشده است.

در مقابل، مهندسی نرم‌افزار سنتی با معماری‌های ترکیبی و ماژولار، سامانه‌هایی مانند لینوکس ساخته که تقریباً همه‌جا کاربرد دارد، از گوشی و کنسول بازی تا ابررایانه‌های ناسا. لینوکس مانند دیگر سیستم‌عامل‌ها مکانیزمی برای هماهنگی اجزای متعدد است. در حالی که سیستم‌های هوش مصنوعی معمولاً یکپارچه، غیرماژولار و شکننده‌اند، لینوکس شبیه سنتی جمعی و انعطاف‌پذیر رشد کرده است.

این ویژگی‌های یکپارچه و انحصاری هوش مصنوعی تا حدی به گفته تیل مبنی بر گرایش ذاتی آن به تمرکزگرایی مشروعیت می‌دهد. دولت‌ها و شرکت‌های بزرگ توان مالی و فنی برای اداره چنین سامانه‌های عظیمی را دارند. بااین‌حال، این روند فقط ناشی از ویژگی‌های فنی نیست، بلکه بازتاب نگرش بوروکراسی‌ها به خود و جهانشان است.

در شوروی، میخائیل بوتوینیک سیستم Pioneer را الگویی برای برنامه‌ریزی اقتصادی می‌دانست، زیرا در رژیمی زندگی می‌کرد که اقتصاد را قابل تقلیل به یک برنامه ریاضی می‌دید. با این حال، حوزه هوش مصنوعی از آغاز دهه ۱۹۴۰ تاکنون یکدست نبوده است. برخی رویکردهای توزیع‌شده‌تر نیز وجود داشته‌اند و امروز هم بسیاری خواستار اهداف و روش‌های متنوع‌تر هستند. مدل‌های زبانی بزرگ، با وجود نیاز به منابع عظیم، می‌توانند همچون فناوری‌های فرهنگی جدیدی باشند که سازماندهی و انتشار اطلاعات را تسهیل می‌کنند. در این نگاه، LLMها بیش از آنکه «عاملان هوشمند» باشند، ابزارهای فرهنگی‌اند – مانند نوشتار یا ویدئو – که به انسان‌ها امکان دسترسی و سامان‌دهی اطلاعات را می‌دهند.

دانش انسانی، تمرین، هدایت و جامعه کاربران و توسعه‌دهندگان، به‌اندازه دولت‌ها و شرکت‌ها در موفقیت مدل‌های زبانی بزرگ نقش دارند. با گسترش استفاده از آن‌ها، نهادهای فرعی نیز برای تنظیم‌گری و کاهش پیامدهای منفی شکل خواهند گرفت. همکاری در توسعه و تنظیم می‌تواند به کاهش مالکیت متمرکز کمک کند.

بااین‌حال، این حوزه باید خود را با مفهوم تازه‌ای از «هوش جمعی و توزیع‌شده» تنظیم کند. آینده‌ای که در آن هوش مصنوعی در دسترس همگان باشد، باید شبیه ویکی‌پدیا باشد نه دیپ‌بلو. ویکی‌پدیا مکانیزم هماهنگی و منبع بیرونی دانش است، نه ابزاری برای حل بهینه مسائل محاسباتی و شاید همین، نشانه موفقیت آن است.

هوش مصنوعی هنوز جوان است. شاید تا پایان این قرن، جهانی داشته باشیم که بر اساس تصویری کاملاً متفاوت از هوش بازسازی شده باشد – تصویری توزیع‌شده و مشارکتی، نه متمرکز و از بالا به پایین. اما این نیازمند انتخابی آگاهانه است. در غیر این صورت، پیش‌بینی تاریک تیل از سلطه دیجیتال می‌تواند به واقعیت بدل شود.