تاریخ:
درس صد و هفت
چرا «چت‌جی‌پی‌تی» دستورهای کاربران را نادیده می‌گیرد؟
این مقاله به بررسی این موضوع می‌پردازد که چرا «چت‌جی‌پی‌تی» گاهی دستورهای متنی کاربران را نادیده می‌گیرد و چرا توسعه‌دهندگان هوش مصنوعی اجازه می‌دهند چنین اتفاقی بیفتد.
شما دقیقاً به «چت‌جی‌پی‌تی»(ChatGPT) می‌گویید که چه کاری انجام دهد. سپس پاسخ می‌رسد و می‌بینید که مشکلی وجود دارد زیرا این مدل هوش مصنوعی، اطلاعاتی را که شما درخواست نکرده بودید اضافه کرده، ساختار را تغییر داده، نکته‌ای را که به آن گفته بودید حذف کند، تکرار کرده یا یکی از دستورالعمل‌های شما را به طور کامل نادیده گرفته است.
به گزارش ایسنا به نقل از فاین‌چنل، شما دستور متنی یا «پرامپت»(Prompt) خود را اصلاح می‌کنید. چت‌جی‌پی‌تی عذرخواهی می‌کند و قول می‌دهد که از دستورالعمل‌ها پیروی کند. گاهی اوقات این کار را انجام می‌دهد، اما گاهی اوقات همان اشتباه را تکرار می‌کند. این تجربه که به طور فزاینده‌ای رایج شده است، یکی از مشکلات حل‌نشده در هوش مصنوعی را آشکار می‌کند. مشکل این است که مدل‌های زبانی بزرگ هنوز در پیروی از دستورالعمل‌ها ناقص هستند؛ حتی زمانی که آن دستورالعمل‌ها واضح باشند.
این مسئله با حرکت هوش مصنوعی از چت‌بات‌ها به سوی عامل‌هایی که قادر به وب‌گردی، مطالعه اسناد، استفاده از نرم‌افزارها و انجام اقدامات به نیابت از کاربران هستند، اهمیت فزاینده‌ای پیدا می‌کند.
شکست‌ها ممکن است ناشی از تضاد میان قوانین سیستم و توسعه‌دهنده و کاربر، دشواری در مدیریت پرامپت‌های طولانی و محدودیت‌های متعدد، از دست رفتن محتوا، سوءتفاهم‌ها یا تمایل به ارائه اطلاعات اضافی و موافقت بیش‌ازحد و سریع با کاربران باشند.
این موضوع با ورود هوش مصنوعی به محیط‌های کاری و آغاز کار به عنوان یک عامل، اهمیت فزاینده‌ای پیدا می‌کند. «مرکز پژوهشی پیو»(Pew Research Center) گزارش داد ۲۱ درصد از کارگران آمریکایی گفته‌اند که در سپتامبر ۲۰۲۵ حداقل برای برخی کارها از هوش مصنوعی استفاده کرده‌اند. شرکت مشاوره مدیریت «گالوپ»(Gallup) گزارش داد که ۴۵ درصد کارمندان حداقل چند بار در سال از هوش مصنوعی در محل کار خود استفاده می‌کنند. عوامل هوش مصنوعی با خطرات امنیتی مانند تزریق سریع نیز روبه‌رو هستند که در آن، دستورالعمل‌های مخرب پنهان در وب‌سایت‌ها یا اسناد می‌توانند به اقدامات غیرمجاز منجر شوند.
پژوهش‌های انجام‌شده در بازه زمانی ۲۰۲۴ تا ۲۰۲۶ نشان دادند که مشکلاتی مانند سلسله‌مراتب دستورالعمل‌ها، محدودیت‌های پیچیده و تملق‌گویی همچنان پابرجا هستند. در یک پژوهش، رفتار تملق‌آمیز در ۵۸٫۱۹ درصد از موارد آزمایش‌شده دیده شد؛ هرچند این رقم مختص همان روش‌شناسی ویژه بود.
کاربران می‌توانند با جدا کردن وظیفه از قوانین الزامی، شماره‌گذاری الزامات، تفکیک دستورالعمل‌های حیاتی از موارد سلیقه‌ای، درخواست از مدل برای بررسی تک‌تک الزامات و تکرار دستورات کلیدی در گفت‌وگوهای طولانی، میزان پایبندی مدل به پرامپت‌ها را بهبود ببخشند.
موارد ذکرشده برای سرپیچی هوش مصنوعی از پرامپت‌ها به شرح زیر هستند.
۱. هوش مصنوعی ممکن است عبارات مبهم یا نامشخص را اشتباه برداشت کند.
۲. اگر پرامپت حاوی سیگنال‌های متناقض باشد، ممکن است تمرکز هوش مصنوعی بر بخش نادرستی قرار بگیرد.
۳. گاهی اوقات ممکن است درخواست بیش از حد طولانی یا پیچیده باشد یا حاوی دستورالعمل‌های متناقض باشد.
برخی از اقدامات پیشنهادی برای ترغیب هوش مصنوعی به پیروی بهتر به شرح زیر هستند.
۱. از دستورالعمل‌های کوتاه و صریح استفاده کنید.
۲. مهم‌ترین قانون را در ابتدا قرار دهید.
۳. درباره قالب، لحن و هدف دقیق باشید.
این مقاله نتیجه می‌گیرد که هدف اطاعت بی‌نقص نیست؛ بلکه دستیابی به نوعی هوش مصنوعی است که بتواند تشخیص دهد کدام دستورالعمل‌ها مجاز و کدام ناایمن هستند و چه زمانی به تأیید انسان نیاز است.
لینک کوتاه: کپی لینک
طعم عجیب دهان چه چیزی درباره سلامت شما می‌گوید؟ از طعم فلزی و ترش تا تلخ و گندیده ۱۰ کتاب که آینده را با دقتی عجیب پیش‌بینی کردند؛ از هوش مصنوعی تا فناوری‌های مدرن واکنش عراقچی به تناقضات مکرون در خصوص فعالیت‌های هسته‌ای ایران؛ در روایت خود پابرجا باشید آقای رئیس‌جمهور! ورود دادستانی بم به پرونده تنبیه بدنی دانش‌آموز در دهبکری درگیری در پارلمان آلبانی در پی اعتراضات دانشجویی رایزنی تلفنی وزیران امور خارجه ایران و سنگال در مورد آخرین تحولات منطقه قیمت نفت برنت از ۱۱۳ دلار عبور کرد پیش‌بینی افسردگی در نوجوانان از روی رشد مغری آنها در کودکی تلاش ترکیه برای برگزاری نشستی با حضور وزرای ۷ کشور درمورد فلسطین، یمن و تنگه هرمز سیل در آذربایجان‌غربی جان ۲ نفر را گرفت ادعای سنتکام: ایران طی ۱۰۰ روز به جز کمک های بشردوستانه از طریق دریا نه چیزی صادر و نه چیزی وارد کرده بقائی: با نامگذاری «جنگ تجاوزکارانه علیه ایران» به «درگیری ایران»، حقیقت را مخدوش نکنید رشد ۹۷ درصدی سود تلفیقی شستا در سال مالی ۱۴۰۴ آرامکو از کارمندان خود خواست دفتر مرکزی این شرکت را تخلیه کنند معاون رئیس جمهور آمریکا: قیمت بنزین بیش از حد بالاست، قیمت مواد غذایی بیش از حد بالاست
نظرسنجی
پیش بینی شما: قبل از انتخابات آمریکا، به ایران حمله می شود؟