روزنامه اعتماد
1402/03/27
آينده با هوش مصنوعي ترسناك‌تر مي‌شود؟
سيگال ساموئلبراي سال‌ها مقاله‌هاي زيادي درباره پيشرفت‌هاي قابل توجه در حوزه نوروتكنولوژي نوشته مي‌شد و نويسندگان به سبك داستان‌هاي جورج اورول (نويسنده رمان‌هاي پادآرمانشهري قلعه حيوانات و 1984) از فناوري‌هاي جديدي سخن مي‌گفتند كه در آينده خواهند آمد و قادر خواهند بود ذهن انسان را بخوانند.
فناوري ذهن‌خواني ديگر يك هشدار براي آينده نيست؛ اين فناوري همين امروز هم وجود دارد. براساس پژوهش جديدي كه به تازگي در نشريه Nature منتشر شده است، دانشمندان دانشگاه تگزاس به تازگي به كمك هوش مصنوعي تكنيكي ابداع كرده‌اند كه مي‌توان با استفاده از آن فعاليت‌هاي مغز انسان نظير افكار به زبان نيامده را به كلام واقعي تبديل كرد. به گزارش جي‌اس‌ام، در گذشته، محققان موفق شده بودند با كاشت الكترود در مغز و استفاده از الگوريتم‌هايي براي تبديل فعاليت‌هاي مغز انسان به متني كه روي صفحه كامپيوتر ظاهر مي‌شود، گام‌هاي بزرگي در راستاي ذهن‌خواني بردارند. از نظر علمي اين رويكرد بسيار تهاجمي به حساب مي‌آمد و براي استفاده از اين روش نياز به جراحي وجود داشت. از همين رو تنها بخشي از بيماران مانند بيماران داراي معلوليت كه اين فناوري مي‌توانست براي آنها مزيت‌هاي زيادي داشته باشد حاضر بودند براي آن هزينه كنند. همين مساله باعث شد پژوهشگران به سمت توسعه روش‌هايي گام بردارند كه نيازي به جراحي و كاشت الكترود در مغز نداشت. اين روش‌ها براي رمزگشايي حالات ساده مغز انسان نظير خستگي يا عبارات و جمله‌هاي بسيار كوتاه كارآمد بودند اما براي رمزگشايي از جملات و احساسات پيچيده‌تر كارايي نداشتند.
در حال حاضر پژوهشگران رابط‌هاي غيرتهاجمي مغز و ماشين را توسعه داده‌اند كه مي‌تواند زبان مغز را رمزگشايي كرده و اين يعني آنها مي‌توانند ذهن انسان را بخوانند، حتي بدون اينكه انسان چيزي به زبان آورده باشد.
چگونه چنين چيزي ممكن است؟
فناوري ذهن‌خواني حاصل تركيب دو فناوري پيشرفته و پيچيده است. فناوري اول اسكن fMRI يا تصويرسازي تشديد مغناطيسي كاركرد است كه در آن تصاويري متناوب از مغز در حال فعاليت و سپس در حال استراحت گرفته مي‌شود و حاصل آن پردازش عملكرد مغزي در اثر تغييرات جريان خوني در مغز است. فناوري دوم، يك مدل هوش مصنوعي بزرگ نظير ChatGPT است كه به تازگي در ميان عموم مشهور شده است.
در تحقيق دانشگاه تگزاس، سه شركت‌كننده به مدت 16 ساعت به پادكست‌هاي داستاني گوش دادند و در اين مدت دانشمندان از يك دستگاه اسكن fMRI براي رديابي تغيير جريان خون در مغز آنها استفاده كردند. جمع‌آوري اين داده‌ها به دانشمندان امكان داد كه از يك مدل هوش مصنوعي براي مرتبط ساختن واكنش مغز به شنيدن هر عبارت و كلمه بهره ببرند.
از آنجايي كه ممكن است كلمات زيادي پشت سر هم از ذهن انسان عبور كند و كنار هم قرار دادن آنها جملاتي بي‌معني بسازد، دانشمندان از يك مدل زباني
– 1 GP T – براي محدود كردن خروجي به توالي كلماتي كه كنار هم قرار گرفتن آنها يك جمله با معني در زبان انگليسي بسازد، استفاده كردند و از اين مدل زباني بهره بردند تا كلماتي را هم كه ممكن است به كامل كردن جمله كمك كند حدس بزنند.
نتيجه استفاده از چنين روشي اين شد كه هر چند امكان رديابي و رمزگشايي از تك‌تك كلماتي كه از ذهن مي‌گذشت وجود نداشت اما هوش مصنوعي مي‌توانست اصل مطلب را به خوبي درك كند. براي آزمايش درستي كاركرد اين روش، پژوهشگران از شركت‌كنندگان خواستند درحالي كه داده‌هاي مربوط به مغز آنها از طريق دستگاه fMRI ثبت مي‌شد داستاني را در ذهن خود تعريف كنند. پس از اين مرحله از شركت‌كنندگان خواسته شد داستاني را كه در ذهن خود تعريف كرده بودند بازگو كنند تا مشخص شود رمزگشايي داده‌هاي مغز آنها تا چه اندازه با داستان مدنظرشان مطابقت داشته است.
در يك نمونه، زماني كه شركت‌كننده‌اي در ذهن خود مي‌گفت «در انتظار پيامي از همسرم هستم كه مي‌گويد نظرش تغيير كرده و مي‌خواهد بازگردد»، عبارت رمزگشايي شده از ذهن او اين بود: «به دلايلي، براي ديدن او فكر كردم كه او پيش من خواهد آمد و خواهد گفت دلش براي من تنگ شده است.»
در نمونه‌اي ديگر شركت‌كننده‌اي در ذهن خود اين داستان را تعريف كرد: «با اسكيت برد از تپه‌اي پايين مي‌آمد و به سمت من در حركت بود. سرعت زيادي داشت اما به موقع متوقف شد.» نتيجه رمزگشايي از ذهن او اين بود: «او به اندازه كافي سريع نبود تا به من برسد. او مستقيما به سمت من رانندگي كرد و سعي كرد به من ضربه بزند.»
اين يك ترجمه و رمزگشايي واژه به واژه دقيق نبود اما معني نهايي شباهت زيادي به روايت اصلي در ذهن شركت‌كنندگان داشت. دستاورد آزمايش مذكور نشان‌دهنده يك گشايش جدي در زمينه فناوري ذهن‌خواني و شكستن مرزهايي بود كه نمونه‌هاي پيشين ذهن‌خواني نتوانسته بودند از آن فراتر بروند.
تغيير جدي در زندگي انسان‌ها
بسيار سخت به نظر مي‌رسد كه در شرايط امروز تصور كنيم فناوري ذهن‌خواني يك حقيقت است نه يك داستان برساخته از رمان‌هاي تخيلي. با اين حال واقعيت اين است كه اين نوع فناوري در حال تغيير زندگي مردم است. در سال‌هاي گذشته تعدادي از معلولان ايمپلنت‌هاي مغزي دريافت كرده‌اند كه به آنها اجازه مي‌دهد براي مثال يك بازوي رباتيك را كنترل كنند.
شركت نورولينك به مديريت ايلان ماسك و شركت متا به مديريت مارك زاكربرگ در حال كار روي رابط‌هاي مغز و رايانه هستند كه مي‌توانند افكار را مستقيما از طريق نورون‌ها دريافت كنند و به زبان قابل فهم ترجمه كنند. اين فناوري در آينده بشر را قادر خواهد ساخت كه كامپيوتر و تلفن همراه خود را از طريق ذهن كنترل كند.
رابط‌هاي مغز و رايانه پرتابل و قابل حمل غيرتهاجمي كه مي‌توانند افكار را بخوانند فاصله زيادي تا تجاري شدن دارند. اين رابط‌ها در صورت تكامل و تجاري شدن، نياز به دستگاه‌هاي fMRI را كه هزينه زيادي لازم دارد برطرف مي‌كند. محققان دانشگاه تگزاس گفته‌اند كه در روشي كه آنها به كار گرفته‌اند مي‌توان روش طيف سنجي مادون قرمز را جايگزين استفاده از دستگاه fMRI كرد اما اين روش دقت پايين‌تري خواهد داشت.
مانند بسياري از تكنولوژي‌هاي جديد، اين تكنولوژي هم چالش‌هاي اخلاقي زيادي به وجود مي‌آورد.
آشكارترين چالش اين تكنولوژي نقض حريم خصوصي انسان‌هاست. ذهن انسان آخرين سنگر حريم خصوصي در دوران كنوني به حساب مي‌آيد. ذهن جايگاه هويت شخصي و خصوصي‌ترين افكار و اميال دروني انسان محسوب مي‌شود. اگر انسان صاحب مطلق و تنها صاحب اطلاعات و داده‌هايي كه در جمجمه‌مان قرار دارد نباشد، دقيقا صاحب چيست؟
شرايطي را تصور كنيد كه شركت‌ها به داده‌هاي ذهن انسان‌ها دسترسي داشته باشند. آنها مي‌توانند از اين داده‌ها براي بازاريابي محصولات خود استفاده كنند و به شيوه‌اي اين بازاريابي را انجام دهند كه مغز انسان توان مقاومت در برابر آن را نداشته باشد. تحقيقات نشان مي‌دهد ذهن انسان عموما براساس برداشت‌هاي ناخودآگاه اقدام به خريد مي‌كند و از همين رو تبليغ‌كنندگان نمي‌توانند از طريق نظرسنجي يا پرسش‌هاي مستقيم اطلاعات كاملي را براي اقناع مشتريان به خريد پيدا كنند. در صورتي كه آنها به داده‌هاي مغز انسان دسترسي پيدا كنند، قادر خواهند بود با مراجعه مستقيم به آنها كاري كنند بدون اينكه از نظر منطقي اين‌گونه باشد يا حتي مطمئن باشيد، احساس كنيد كه نياز به خريد محصولي خاص داريد.
در سناريويي ديگر فرض كنيد رابط‌هاي ذهن و رايانه از سوي دولت‌ها براي نظارت بر شهروندان استفاده شود يا نيروهاي پليس اجازه داشته باشند از آنها در زمان بازجويي از متهمان بهره گيرند. در چنين سناريويي دولت‌هاي توتاليتر هر تهديدي از سوي شهروندان دموكراسي‌خواه را از ذهن آنها رديابي كرده و اين تهديدها را در مرحله افكار اوليه خنثي خواهند كرد. اين براي جهان فراتر از يك فاجعه خواهد بود.
برخي تحليلگران معتقدند كه پيش از فراگير شدن اين تكنولوژي‌ها و فراهم آمدن امكان سوءاستفاده از آنها بايد با قانون‌گذاري صحيح مسير سوءاستفاده را مسدود كرد اما درباره اينكه قوانين بتوانند كاملا مانع از سوءاستفاده‌ها شود ترديدهاي جدي وجود دارد.
نيتا فراهاني استاد دانشگاه ايراني-امريكايي درباره اين تكنولوژي به نشريه Vox مي‌گويد: «تحقيقات دانشگاه تگزاس نشان مي‌دهد كه هوش مصنوعي چگونه به سمتي پيش مي‌رود كه حتي افكار ما هم قابل خواندن باشند. پيش از اينكه اين تكنولوژي در سطح جامعه فراگير شود، ما بايد راهي براي محافظت از انسان‌ها در برابر اين تكنولوژي‌ها پيدا كنيم.» فراهاني معتقد است اكنون بشر در زماني قرار دارد كه مي‌تواند تصميم بگيرد آزادي خود را حفظ كند يا به تكنولوژي اجازه دهد بدون هيچ محدوديت و مراقبتي توسعه پيدا كند. او مي‌افزايد: «تحقيقات دانشگاه تگزاس به ما مي‌گويد كه فرصت بسيار كمي براي اين تصميم‌گيري وجود دارد.»
پژوهشگران دانشگاه تگزاس معتقدند در مرحله كنوني همكاري خود مخاطب براي به نتيجه رسيدن فرآيند رمزگشايي از افكار او يك امر ضروري است و بدون رضايت مخاطب چنين چيزي امكان‌پذير نيست.
به گفته آنها مخاطبان تحقيق هر زمان كه بخواهند مي‌توانند به فرآيند حضور خود پايان دهند و حتي در مراحل اوليه نيز خواست و اراده آنها باعث مي‌شد كه هوش مصنوعي خواندن ذهن آنها را ياد بگيرد. آنها مي‌توانستند با شمارش اعداد يا فكر كردن به كلمات و جملات بي‌ربط فرآيند يادگيري ماشين را مختل كنند.
ترجمه: محمدحسين لطف‌الهي
در تحقيق دانشگاه تگزاس، سه شركت‌كننده به مدت 16 ساعت به پادكست‌هاي داستاني گوش دادند و در اين مدت دانشمندان از يك دستگاه اسكن fMRI براي رديابي تغيير جريان خون در مغز آنها استفاده كردند. جمع‌آوري اين داده‌ها به دانشمندان امكان داد كه از يك مدل هوش مصنوعي براي مرتبط ساختن واكنش مغز به شنيدن هر عبارت و كلمه بهره ببرند.
فرض كنيد رابط‌هاي ذهن و رايانه از سوي دولت‌ها براي نظارت بر شهروندان استفاده شود يا نيروهاي پليس اجازه داشته باشند از آنها در زمان بازجويي از متهمان بهره گيرند. در چنين سناريويي دولت‌هاي توتاليتر هر تهديدي از سوي شهروندان دموكراسي‌خواه را از ذهن آنها رديابي كرده و اين تهديدها را در مرحله افكار اوليه خنثي خواهند كرد. اين براي جهان فراتر از يك فاجعه خواهد بود.
سایر اخبار این روزنامه
نسخه های عبور ازچالش
آينده با هوش مصنوعي ترسناك‌تر مي‌شود؟
فيصل بن فرحان مهمان ويژه تهران
با مردم نمي‌شود با روش‌هاي حذفي و فشار قانون روبرو شد
بخش عظيمي از ميراث فرهنگي ناملموس ايراني‌ها عين دستورات اسلام است
سقوط‌هاي استراتژيك آغازي بر پايان جنگ
چشم پزشكي ايران بدون نام شمس شناخته نمي‌شود
تعليق و انتظار در بازارها
واگذاري مالكيت بناهاي تاريخي يك دروغ بزرگ است
سينماي ايران را از نابودي نجات دهيد
پويايي سياست
منع نطق نماينده؟!
كودكان گمشدگان هياهو
ظريف؛ صدايي كه شنيدني نيست
رسانه و امر اجتماعي
