مراقب بوروکرات های هوش مصنوعی باشید!

پایگاه خبری فولاد ایران- با افزایش سرعت انقلاب هوش مصنوعی، ما هم توسط چشم‌اندازهای آرمان‌شهری و هم پیش‌گویی‌های بمباران می‌شویم. داستان های علمی تخیلی بارها به ما در مورد شورش ربات های بزرگ هشدار داده اند. در بسیاری از رمان‌ها و فیلم‌های علمی تخیلی – مانند The Terminator و The Matrix – هوش مصنوعی و روبات‌ها تصمیم می‌گیرند کنترل جهان را به دست بگیرند، علیه اربابان انسانی خود شورش کنند و بشریت را به بردگی یا نابودی بکشانند. چنین چیزی بعید است به این زودی اتفاق بیفتد.
در حال حاضر، هوش مصنوعی دانش‌آموز نوپا است و ممکن است در برخی زمینه‌ها مانند بازی شطرنج یا نوشتن متن ها تسلط داشته باشند، اما فاقد هوش عمومی لازم برای فعالیت‌های بسیار پیچیده مانند ساختن ارتش روبات‌ها و به دست گرفتن کنترل یک کشور هستند. اما بعید بودن شورش ربات های بزرگ به این معنی نیست که چیزی برای ترس وجود ندارد، زیرا این روبات های قاتل نیستند که ما باید نگران آنها باشیم. بلکه بوروکرات های دیجیتال هستند.
انسان‌ها با میلیون‌ها سال تکامل مشروط شده‌اند تا از شکارچیان خشن مانند آنچه در The Terminator به تصویر کشیده می‌شوند، بترسند. درک تهدیدهای بوروکراتیک برای ما بسیار دشوارتر است، زیرا بوروکراسی یک تحول بسیار بدیع در تکامل پستانداران و حتی انسان است. بوروکراسی حدود 5000 سال پیش و پس از اختراع نوشتن در بین النهرین باستان شروع به توسعه کرد، اما به سرعت جوامع بشری را به شیوه‌های رادیکال و غیرمنتظره تغییر داد.
به گزارش فولاد ایران، قبل از اختراع اسناد مکتوب، مالکیت بر اجماع عمومی متکی بود. اگر شما “مالک” یک مزرعه بودید، به این معنی است که همسایگان شما هم از طریق گفتار و هم از طریق اعمالشان موافقت کردند که این مزرعه شماست. ماهیت اشتراکی مالکیت، حقوق مالکیت فردی را محدود می کرد. به عنوان مثال، همسایگان شما ممکن است موافقت کرده باشند که شما تنها حق کشت یک مزرعه خاص را دارید، اما آنها حق شما را برای فروش آن به خارجی ها تأیید نکرده اند. در عین حال، تا زمانی که مالکیت موضوع توافق عمومی بود، توانایی مقامات مرکزی دوردست را برای کنترل زمین نیز با مشکل مواجه می‌کرد. در غیاب سوابق مکتوب و بوروکراسی های مفصل، هیچ پادشاهی نمی توانست به خاطر بیاورد که چه کسی صاحب کدام مزرعه در صدها روستای دورافتاده است. بنابراین، افزایش مالیات برای پادشاهان دشوار بود، که به نوبه خود مانع از حفظ ارتش و نیروهای امنیتی می شد.
سپس نوشتن اختراع شد و به دنبال آن آرشیوها و بوروکراسی ها ایجاد شد. تکنولوژی در ابتدا بسیار ساده بود. بوروکرات‌های بین‌النهرین باستان از چوب‌های کوچکی برای حک کردن علائم روی لوح‌های گلی استفاده می‌کردند. در چارچوب سیستم‌های بوروکراتیک جدید، این تکه‌های گل انقلابی در معنا مالکیت ایجاد کرد. ناگهان مالکیت مزرعه به این معنا شد که در فلان لوح گلی نوشته شده بود که شما صاحب آن مزرعه هستید. اگر همسایه‌های شما سال‌ها در آنجا میوه می‌چیند و هیچ‌کدام از آنها هرگز نگفته‌اند که این قطعه زمین مال شماست، اما با این وجود موفق شده‌اید یک تکه گل رسمی تولید کنید که می‌گوید مالک آن هستید، می‌توانید ادعای خود را در دادگاه اجرایی کنید. برعکس، اگر جامعه محلی تصدیق کرد که شما صاحب یک دارایی هستید، اما هیچ سندی به آن مهر تأیید رسمی نداد، پس شما مالک آن نبودید.
امروز هم همینطور است، با این تفاوت که اسناد حیاتی ما به جای روی خاک رس، روی تکه های کاغذ یا تراشه های سیلیکونی نوشته می شود.
این بدان معناست که اکنون می‌توان مالکیت را توسط بوروکراسی دوردستی که اسناد مربوطه را تهیه می‌کرد و شاید آنها را در یک آرشیو مرکزی نگهداری می‌کرد، تعیین کرد. به این ترتیب، راه برای اخذ مالیات، پرداخت ارتش و ایجاد دولت های متمرکز بزرگ باز شد. این سند مکتوب نحوه جریان قدرت در جهان را تغییر داد و نفوذ زیادی به بوروکرات‌هایی مانند جمع‌آوران مالیات، صاحبان حقوق، حسابداران و وکلا داد.
آنها تبدیل به دست اندرکاران شبکه اطلاعاتی شده اند که با دستکاری اسناد، فرم ها، اساسنامه ها و سایر اهرم های بوروکراتیک حرکت مالیات ها، پرداخت ها و حتی سربازان را خوب یا بد کنترل می کنند. این همان قدرتی است که هوش مصنوعی اکنون آماده به دست گرفتن آن است. بوروکراسی یک محیط مصنوعی است که در آن تسلط بر یک حوزه ظریف برای تأثیرگذاری عظیم کافی است.
در جهان گسترده تر، با دستکاری در جریان اطلاعات. اگر یک هوش مصنوعی امروزی را به دنیای بی‌ساختار آشفته پرتاب کنید، احتمالاً نمی‌تواند کارهای زیادی انجام دهد – و مطمئناً نمی‌تواند ارتش ربات‌ها را تشکیل دهد. اما این مانند پرتاب یک وکیل شرکتی به دشت های آشفته و بدون ساختار است. در آنجا، توانایی های وکیل هیچ معنایی ندارد. اما اگر یک سیستم بوروکراتیک بسازید و آن را به تحمیل کنید، وکیل بسیار قدرتمندتر از تمام شیرهای جهان می شود.
امروزه، بقای شیرها به وکلا بستگی دارد که اسناد را در بوروکراسی های پیچیده تنظیم و جابجا کنند. بسیار مهم است که در این هزارتو، هوش مصنوعی به احتمال زیاد بسیار قدرتمندتر از هر وکیل انسانی خواهد شد. در سال‌های آینده، میلیون‌ها بوروکرات هوش مصنوعی به طور فزاینده‌ای در مورد زندگی نه تنها شیرها، بلکه همچنین برای انسان‌ها تصمیم‌گیری خواهند کرد. بانکداران هوش مصنوعی تصمیم خواهند گرفت که آیا به شما وام بدهند یا خیر. هوش مصنوعی در سیستم آموزشی تصمیم می گیرد که آیا شما را در دانشگاه بپذیرد یا خیر. هوش مصنوعی در شرکت ها تصمیم خواهند گرفت که به شما شغل بدهند یا خیر. هوش مصنوعی در سیستم دادگاه تصمیم خواهد گرفت که آیا شما را به زندان بفرستند یا خیر. هوش مصنوعی نظامی تصمیم می گیرد که خانه شما را بمباران کند یا خیر. این AI ها لزوما بد نیستند. آنها ممکن است سیستم ها را بسیار کارآمدتر و حتی منصفانه تر کنند.
آنها می توانند مراقبت های بهداشتی، آموزش، عدالت و امنیت برتر را برای ما فراهم کنند. اما اگر همه چیز اشتباه پیش برود، نتایج می تواند فاجعه بار باشد. و در چند زمینه، همه چیز قبلاً اشتباه پیش رفته است. شاید گویاترین مثال تاکنون داستان الگوریتم های رسانه های اجتماعی باشد. این هوش مصنوعی های بدوی قبلاً جهان را تغییر شکل داده اند و تأثیر زیادی بر جامعه بشری داشته اند. الگوریتم‌های شرکت‌هایی مانند فیس‌بوک، ایکس، یوتیوب و تیک تاک هدف بسیار ظریفی را بر عهده گرفته‌اند که برای عامه عالی است: افزایش تعامل کاربر. هرچه کاربران زمان بیشتری را در رسانه های اجتماعی صرف کنند، شرکت ها درآمد بیشتری کسب می کنند.
در تعقیب تعامل کاربر، الگوریتم‌ها به کشف خطرناکی دست یافتند. با آزمایش روی میلیون‌ها خوکچه هندی، الگوریتم‌های رسانه‌های اجتماعی دریافتند که حرص، نفرت و ترس باعث افزایش تعامل کاربران می‌شود. اگر دکمه طمع، نفرت یا ترس را در ذهن یک انسان فشار دهید، توجه آن انسان را جلب می کنید و او را به صفحه می چسبانید. بنابراین الگوریتم‌ها شروع به گسترش عمدی طمع، نفرت و ترس کردند. این یکی از دلایل اصلی شیوع فعلی تئوری‌های توطئه، اخبار جعلی و اختلالات اجتماعی است که جوامع را در سراسر جهان تضعیف می‌کند. الگوریتم های رسانه های اجتماعی هوش مصنوعی بسیار محدودی هستند که احتمالاً نمی توانند در ساوانا زنده بمانند یا شورش ربات های بزرگ را سازماندهی کنند. اما در ساختار بوروکراتیک پلتفرم‌های رسانه‌های اجتماعی، این علمای احمق قدرت عظیمی دارند که زمانی در اختیار انسان‌ها بود.
برای قرن‌ها، ویراستاران انسانی تصمیم می‌گرفتند که چه چیزی را در برنامه‌های خبری رادیو و تلویزیون قرار دهند، و چه چیزی را در صفحه اول روزنامه‌ها قرار دهند و بدین ترتیب به گفتگوی عمومی شکل دادند. ویراستاران چهره های قدرتمندی ساختند. ژان پل مارات با سردبیری روزنامه پرنفوذ L’Ami du Peuple، سیر انقلاب فرانسه را شکل داد. ادوارد برنشتاین با ویرایش Der Sozialdemokrat تفکر سوسیال دمکراتیک مدرن را شکل داد. مهمترین سمتی که ولادیمیر لنین قبل از اینکه دیکتاتور شوروی شود، سردبیر ایسکرا بود. بنیتو موسولینی به‌عنوان سردبیر روزنامه دست راستی Il Popolo d’Italia به شهرت و نفوذ دست یافت.
جالب است که یکی از اولین مشاغلی که در جهان توسط هوش مصنوعی خودکار شد، رانندگان تاکسی یا کارگران نساجی نبودند، بلکه سردبیران اخبار بودند. کاری که زمانی توسط لنین و موسولینی انجام می شد، اکنون توسط هوش مصنوعی قابل انجام است. ویرانگری که توسط ویراستاران الگوریتمی در جوامع بشری ایجاد می شود، یک علامت هشدار است. دنیای انسان شبکه‌ای از بوروکراسی‌های متعدد است که در آن هوش مصنوعی می‌تواند قدرت عظیمی را به دست آورد، حتی اگر کاملاً قادر به برپایی شورش ربات‌های بزرگ نباشد.

منبع: فایننشال تایمز