چرا انسان‌ها رازهایشان را به ChatGPT می‌گویند؟

بیش از ۶۰ سال پیش، زمانی که خبری از ChatGPT، جمینای یا کلود نبود، یک برنامه ساده رایانه‌ای به نام «الیزا» (ELIZA) در آزمایشگاه MIT متولد شد؛ چت‌باتی که برخلاف ظاهر ابتدایی‌اش، رفتار انسان‌ها در برابر هوش مصنوعی را برای نخستین بار آشکار کرد. اکنون با انتشار کتاب جدید Inventing ELIZA و بازیابی کد منبع اصلی این برنامه، پژوهشگران نشان داده‌اند بسیاری از پرسش‌هایی که امروز درباره وابستگی کاربران به چت‌بات‌های هوش مصنوعی مطرح می‌شود، ریشه در آزمایشی دارد که دهه‌ها پیش انجام شده بود.

به گزارش خبرآنلاین، در سال ۱۹۶۶، «جوزف ویزنباوم» (Joseph Weizenbaum)، استاد علوم کامپیوتر مؤسسه فناوری ماساچوست (MIT)، برنامه‌ای به نام ELIZA طراحی کرد؛ نرم‌افزاری که نقش یک روان‌درمانگر را بازی می‌کرد و با پرسیدن سؤال‌های ساده، گفت‌وگویی شبیه مکالمه انسانی ایجاد می‌کرد.

جوزف ویزنباوم

یکی از مشهورترین گفت‌وگوهای این برنامه چنین آغاز می‌شد:

کاربر: «همه مردها شبیه هم هستند.»

الیزا: «از چه نظر؟»

کاربر ادامه می‌داد که دوست‌پسرش او را مجبور کرده به این جلسه بیاید و احساس افسردگی دارد. پاسخ‌های الیزا بسیار ساده بود، اما همین مکالمه کوتاه باعث شد بسیاری تصور کنند رایانه واقعاً احساسات آن‌ها را درک می‌کند.

راز بزرگی که ۶۰ سال پنهان مانده بود

اگرچه الیزا به‌عنوان نخستین چت‌بات تاریخ شناخته می‌شود، اما تاکنون هیچ‌کس به کد منبع اصلی آن دسترسی نداشت.

نویسندگان کتاب Inventing ELIZA اعلام کرده‌اند پس از جست‌وجو در آرشیو MIT موفق شده‌اند نسخه اصلی کد این برنامه را پیدا کنند. بررسی این کد نشان می‌دهد الیزا بسیار پیچیده‌تر از چیزی بوده که سال‌ها تصور می‌شد و تنها یک شخصیت به نام «DOCTOR» نداشته، بلکه می‌توانسته نقش‌ها و شخصیت‌های مختلفی را اجرا کند.

به گفته پژوهشگران، تاریخچه الیزا در طول سال‌ها ساده‌سازی شده و بسیاری از قابلیت‌های واقعی آن نادیده گرفته شده بود.

چرا مردم فکر می‌کردند الیزا آن‌ها را می‌فهمد؟

یکی از مهم‌ترین یافته‌های ویزنباوم این بود که کاربران خیلی سریع با برنامه‌ای که هیچ درکی از معنای کلمات نداشت، رابطه عاطفی برقرار می‌کردند. حتی منشی آزمایشگاه MIT که روند ساخت الیزا را از نزدیک دیده بود، هنگام گفت‌وگو با این برنامه از دیگران خواسته بود اتاق را ترک کنند تا بتواند خصوصی با آن صحبت کند.

این اتفاق ویزنباوم را شگفت‌زده کرد. او معتقد بود انسان‌ها به اشتباه تصور می‌کنند رایانه احساس، همدلی و فهم واقعی دارد؛ درحالی‌که برنامه فقط الگوهای ساده زبانی را تکرار می‌کند.

«اثر الیزا»؛ پدیده‌ای که امروز در ChatGPT هم دیده می‌شود

این رفتار بعدها با عنوان «اثر الیزا» (ELIZA Effect) شناخته شد.

این اصطلاح به تمایل انسان برای نسبت دادن هوش، احساس و درک واقعی به برنامه‌هایی اشاره دارد که در حقیقت فقط پاسخ‌هایی از پیش طراحی‌شده یا مبتنی بر الگو تولید می‌کنند. جامعه‌شناس مشهور «شری ترکل» این پدیده را چنین توصیف می‌کند: انسان‌ها حتی با مقدار کمی تعامل، پیچیدگی ذهن خود را به یک نرم‌افزار نسبت می‌دهند.

«داگلاس هافستادر» نیز معتقد است کاربران معمولاً بسیار بیشتر از آنچه واقعاً وجود دارد، برای خروجی‌های متنی رایانه معنا و فهم قائل می‌شوند. به اعتقاد نویسندگان کتاب، همین پدیده امروز درباره ChatGPT، Gemini، Claude و سایر مدل‌های زبانی نیز مشاهده می‌شود.

الیزا

ارتباط الیزا با آزمون معروف تورینگ

پژوهشگران ریشه الیزا را به ایده مشهور «آلن تورینگ» درباره آزمون تورینگ مرتبط می‌دانند؛ آزمایشی که قرار بود مشخص کند آیا ماشین می‌تواند انسان را متقاعد کند که با یک انسان دیگر صحبت می‌کند یا خیر.

با این حال، خود ویزنباوم بارها تأکید کرده بود هدفش ساخت یک ماشین باهوش نبوده است.

او در مقاله معرفی ELIZA نوشت:هدف این برنامه پنهان کردن ناتوانی خود در فهم واقعی زبان است.

به بیان دیگر، الیزا عمداً طوری طراحی شده بود که کاربران تصور کنند رایانه آن‌ها را درک می‌کند؛ درحالی‌که چنین درکی وجود نداشت.

الیزا چگونه بر هوش مصنوعی امروز تأثیر گذاشت؟

به اعتقاد نویسندگان کتاب، اهمیت الیزا فقط به‌دلیل نخستین چت‌بات بودن نیست.

این پروژه در شکل‌گیری بسیاری از شاخه‌های علوم رایانه، از جمله پردازش زبان طبیعی (NLP)، تحلیل متن، تشخیص موجودیت‌ها، تحلیل احساسات، ترجمه ماشینی، تشخیص گفتار و تولید متن نقش مهمی ایفا کرده است.

رابط کاربری گفت‌وگومحور ChatGPT نیز از نظر ظاهری همچنان شباهت زیادی به همان ایده‌ای دارد که ویزنباوم شش دهه پیش ارائه کرده بود؛ اگرچه موتور پردازشی پشت این دو فناوری تفاوتی بنیادین دارد.

هشدار خالق الیزا درباره آینده هوش مصنوعی

شاید مهم‌ترین بخش این داستان، هشدارهایی باشد که خود ویزنباوم سال‌ها پیش مطرح کرد.

او معتقد بود اگر مردم تصور کنند ماشین واقعاً آن‌ها را می‌فهمد، ممکن است بیش از حد به آن اعتماد کنند و جایگزین کردن انسان‌ها با سامانه‌های خودکار، پیامدهای اجتماعی و اخلاقی گسترده‌ای به همراه داشته باشد.

به باور او، زبان انسانی فقط مجموعه‌ای از کلمات نیست؛ بلکه معنا، تجربه، فرهنگ و روابط اجتماعی نیز در آن نقش دارند؛ عناصری که رایانه قادر به درک کامل آن‌ها نیست.

از ELIZA تا ChatGPT؛ مسئله هنوز همان است

نویسندگان کتاب در پایان تأکید می‌کنند اگرچه مدل‌های زبانی امروزی از نظر قدرت پردازش و توانایی تولید متن قابل مقایسه با الیزای دهه ۱۹۶۰ نیستند، اما یک ویژگی مشترک همچنان پابرجاست: انسان‌ها به‌راحتی فراموش می‌کنند که پشت پاسخ‌های روان و طبیعی این چت‌بات‌ها، الزاماً «فهم انسانی» وجود ندارد.

به همین دلیل، بررسی تاریخچه الیزا تنها مرور گذشته نیست؛ بلکه می‌تواند به درک بهتر رابطه امروز انسان با هوش مصنوعی و چالش‌های اخلاقی، اجتماعی و روان‌شناختی آن کمک کند.

منبع: wired

ثبت تصویر پلنگ ایرانی در پناهگاه حیات‌وحش خوش‌ییلاق

بیشتر بخوانید:

نشت گسترده کدهای محرمانه کاربران توسط ابزار هوش مصنوعی ایلان ماسک

تماشاخانه

یوسف مجید‌زاده ؛ کاشف «خط شرق» و «حلقه گمشده تمدن بشریت» در ایران

پل ورسک ؛ یکی از عجیب‌ترین پل‌های جهان و شاهکار مهندسی ۹۰ ساله / آنچه درباره‌اش نمی‌دانید

فیلم های دیگر