یادداشت حاضر نقدی بر کتاب «چشم خدایگان؛ تاریخ اجتماعی هوش مصنوعی» نوشته متئو پاسکویینلی است؛ اثری خواندنی در حوزه مطالعات هوش مصنوعی با رویکردی انتقادی که در سال ۲۰۲۳ منتشر و توسط نشر هرمس در سال ۱۴۰۳ به فارسی برگردانده شده است.
پاسکویینلی در این کتاب، هوش مصنوعی را نه به‌عنوان یک فناوری مستقل، بل به‌عنوان فرایندی اجتماعی و تاریخی می‌بیند که از الگوریتم‌ها و داده‌های انسانی نشأت می‌گیرد. هرچند تعریف او با نفی فناوری مستقل برای توصیف هوش مصنوعی رویکرد انتقادی او را نشان می‌دهد؛ لکن به این حد کفایت نکرده، درباره واقعیت هوش مصنوعی می‌گوید:
اسطوره عامیانه درباره هوش مصنوعی همواره دوشادوش سرمایه ایستاده است و همزمان با ترویج ایدئولوژی‌های نژادپرستی و تبعیض جنسیتی مأموریتی مخفیانه را برای پرورش حماقت در انسان پیش گرفته است. (پاسکویینلی، ۱۴۰۳: ۱۱۴)
طبیعی است هنگامی که هوش مصنوعی را دوشادوش سرمایه قرار می‌دهد بحث به تقسیم کار نیز می‌کشد؛ بنابراین سعی او بر این است که نشان دهد چگونه هوش مصنوعی در بستر تقسیم کار اجتماعی و اقتصادی شکل گرفته است. در این راستا، نه‌تنها هوش مصنوعی را به‌مثابه شبیه‌سازی هوش انسانی بلکه به‌عنوان ابزاری برای خودکارسازی وظایف انسانی نیز نقد کرده و قدرت این فناوری را در مدیریت تقسیم کار اجتماعی عنوان می‌کند.
پاسکویینلی نگاهی شکاک به مفهوم «خودسازماندهی» دارد زیرا معتقد است طی سده‌ها و در رشته‌های مختلف زنگاری ایدئولوژیک بر مفهوم خودسازماندهی نشسته است.
دیدگاه او آنجا که می‌گوید: «کتاب حاضر کوشید نشان دهد که هوش مصنوعی سرانجام تکامل دیرپای خودکارسازی کار و کمّی‌سازی جامعه است» (پاسکویینلی، ۱۴۰۳: ۲۵۷)؛ یادآور نگاه رنه گنون در اثر برجسته‌اش «سیطره کمّیت و علائم آخرالزمان» است. در هر دوی این رویکردها، کمّی‌سازی رویکرد مدرن به ساحت علم عنوان می‌شود.
چشم خدایگان رویکردی رادیکال و ساختارشکن به پدیده هوش مصنوعی دارد و تا حدودی در این خصوص بزرگنمایی کرده به نحوی که سویه‌های مثبت هوش مصنوعی را به محاق برده است. البته، از سوی دیگر می‌توان گفت این ویژگی، نقطه قوت آن است و هم آن که جای بحث دارد. و اما دلایلی که ثابت می‌کند رویکرد این کتاب رادیکال است عمدتاً در تحلیل قدرت و کنترل این فناوری است زیرا پاسکویینلی تحت‌تأثیر سنت‌های مارکسیستی و فوکویی، هوش مصنوعی را نه یک پیشرفت علمی صرف، بلکه ابزار بازتولید سلطه و تقویت ساختارهای سرمایه‌داری می‌داند و لذا از تشبیه چشم خدایگان برای هوش مصنوعی استفاده می‌کند به نحوی که حتی از نظارت سراسربین فوکویی نیز فراتر رفته و به گونه‌ای یادآور تعبیر «شاهد هرجایی» در ادبیات و گفتمان عرفانی می‌شود با این تفاوت که تصویری آخرالزمانی از AI به مثابه یک پروژه سیاسی-اقتصادی ترسیم می‌کند. این کتاب نه‌تنها اعتماد به ادعاهای علمی رایج در خصوص ظرفیت‌های تکنولوژیک هوش مصنوعی را به چالش می‌کشد بلکه از اتوماسیون به‌عنوان تهدیدی برای شأن و امنیت شغلی انسان‌ها یاد می‌کند نه ابزاری برای رفاه.
نقدهای موازی بر چشم خدایگان
چشم خدایگان مورد انتقاد برخی از اندیشمندان قرار گرفته است. ملانی میچل، نویسنده کتاب هوش مصنوعی: راهنمایی برای انسان‌های اندیشمند (Artificial Intelligence: A Guide for Thinking Humans) موضعی انتقادی به هوش مصنوعی دارد به نحوی که منتقد ساده‌سازی و اغراق در مورد توانمندی یا تهدید هوش مصنوعی است. او تأکید می‌کند که بیشتر درک‌های افراطی، چه یوتوپیایی و چه دیستوپیایی، از AI بر پایه سوءتفاهم یا برداشت‌های کلیشه‌ای است. وی دیدگاه جایگزینی برای AI معرفی می‌کند بدین صورت که معتقد است باید آن را در بستر یک علم در حال رشد با ضعف‌ها و توانمندی‌های محدود دید؛ خطرات واقعی وجود دارند ولی نه به شکل سایه یک «خدایگان». اگر بخواهیم مقایسه هر دو دیدگاه را در یک جمله خلاصه کنیم می‌توانیم بگوییم: پاسکویینلی می‌گوید: «از AI بترس چون ابزار سلطه است» در حالی که میچل می‌گوید: « AI را بشناس چون هنوز خیلی خام است».
اریک برین‌جولفسون و اندرو مکافی، نویسندگان کتاب عصر دوم ماشین (The Second Machine Age) از دیگر منتقدان دیدگاه پاسکویینلی هستند. آنان نگاهی مثبت و اقتصادی‌محور به AIدارند و معتقدند که هوش مصنوعی و اتوماسیون، مشروط به سیاست‌گذاری صحیح، می‌توانند موجب رشد اقتصادی، افزایش بهره‌وری و بهبود کیفیت زندگی شوند. دیدگاه جایگزین آنان تأکید بر توانمندسازی انسان به‌جای جایگزینی AI است.
شوشانا زوبوف، نویسنده کتاب عصر سرمایه‌داری نظارتی (The Age of Surveillance Capitalism) منتقد دیگر چشم خدایگان، هم‌موضع با پاسکویینلی است با این تفاوت که تمرکزش بر روی داده‌هاست. وی برخلاف پاسکویینلی که کل AI را مشکوک می‌داند، بیشتر ساختارهای اقتصادی (گوگل، متا، آمازون) را مقصر می‌داند نه خود فناوری را.
در مقام مقایسه می‌توان گفت: پاسکویینلی به ما یاد می‌دهد که « AIبی‌طرف نیست» ولی افرادی مثل میچل و برین‌جولفسون کمک می‌کنند نگذاریم از ترس، آینده مثبت این فناوری را هم دفن کنیم. البته، شاید نقد منتقدان چندان هم به نویسنده چشم خدایگان وارد نباشد زیرا پاسکویینلی در این اثر حرفی از نادیده‌گرفتن و یا کنارگذاشتن هوش مصنوعی نمی‌زند بلکه برای نگاه سراسربین این خدایگان راه‌حلی اندیشیده است آنجا که می‌گوید:
چیزی که نیاز داریم نه در چاره‌یابی فناورانه است و نه در افلاس فناورانه. در عوض نیازمند فرهنگ اختراع هستیم یعنی طرح و برنامه‌ای که از اجتماع و جمع مراقبت کند و هرگز تمام عاملیت و هوش را به خودکارسازی وانگذارد. گام نخست فن‌سیاست‌ورزی فناورانه نیست بلکه سیاسی است… یکی از تأثیرات مسئله‌ساز هوش مصنوعی بر جامعه نفوذ معرفت‌شناختی آن است یعنی شیوه‌ای که هوش را هوش ماشینی جا می‌زند و تلویحاً دانش را به شکل دانش رویه‌ای درمی‌آورد. با این همه، پروژه نوعی معرفت‌شناسی سیاسی که بتواند از هوش مصنوعی فراتر برود باید شکل‌های تاریخی تفکر انتزاعی (ریاضیاتی، مکانیکی، الگوریتمی و آماری) را تغییر دهد و آنها را به جعبه ابزار تفکر انتقادی بیفزاید. در رویارویی با معرفت‌شناسی هوش مصنوعی و سلطه استخراج دانش باید ذهنیت فنی متفاوتی را آموخت، باید به سراغ نوعی «ضداطلاعات» (counter-Intelligence) جمعی رفت. (پاسکویینلی، ۱۴۰۳: ۲۶۴)
در این عبارات، نه‌تنها راه‌حل ارائه می‌شود بلکه تعبیر «هوش» برای AI و نفوذ معرفت‌شناختی آن به چالش کشیده می‌شود زیرا طبق نظر پاسکویینلی، «ویژگی هوش، که در سامانه‌های هوش مصنوعی انسان‌انگاری می‌شود، اساساً ترفند تاباندن داده‌ها بر فضایی چندبعدی با هدف اجرای عملیات خوشه‌بندی، طبقه‌بندی و پیشگویی است». (پاسکویینلی، ۱۴۰۳: ۲۳۲) بنابراین، فناوری AI تنها کیفیت هوش هندسی و فضایی را نمایش می‌دهد نه هوش در کلیتش را. با این وجود، چشم خدایگان یک هشدار هوشیارکننده است، نه راهنمای متعادل. ارزشش در این است که به ما یادآوری می‌کند پشت سر فناوری به ظاهر خنثی همیشه سیاست، قدرت و تاریخ خوابیده است ولی اگر فقط به این نگاه محدود شویم از ظرفیت‌های انسانی و پیشرفت‌محور AI غافل می‌شویم. می‌توان گفت عمده نقد او با تأکید بر بستر اجتماعی و در نتیجه غلبه نگاه ماتریالیستی صورت می‌گیرد و لذا از جنبه‌های مثبت قضیه یعنی ابعاد فنی آن غفلت می‌ورزد.
هنگامی که کتاب را می‌خواندم، این پرسش ذهنم را به خود مشغول کرد که آیا هوش مصنوعی می‌تواند امکان‌های رهایی‌بخشی داشته باشد و در خدمت دموکراتیزه‌کردن دانش، کاهش تبعیض و حتی گسترش آزادی‌های فردی باشد؛ چیزهایی که در این کتاب کمتر دیده می‌شوند.
منابع
- میچل، م. (۱۴۰۳). هوش مصنوعی: شیوه‌نامه‌ای برای انسان متفکر (ح. کفاش، مترجم). تهران: نشر عابد. (اثر اصلی در ۲۰۱۹ منتشر شده است)
- پاسکویینلی، م. (۱۴۰۳). چشم خدایگان: تاریخ اجتماعی هوش مصنوعی (س. رضانژاد، مترجم). تهران: نشر هرمس. (اثر اصلی در ۲۰۲۳ منتشر شده است)
- زوبوف، ش. (۱۴۰۰). عصر سرمایه‌داری نظارتی (ن. شاه‌قاسمی، مترجم). تهران: نشر نی. (اثر اصلی در ۲۰۱۹ منتشر شده است)
- Brynjolfsson, E., & McAfee, A. (۲۰۱۴). The second machine age: Work, progress, and prosperity in a time of brilliant technologies. W. W. Norton & Company.
