نگاهی به دستورالعمل‌های گراک؛ اشتباه کارمند xAI دلیل پاسخ‌های عجیب هوش مصنوعی بود
به گزارش «نبض فناوری»، به نقل از دیجیاتو، چت‌بات Grok روز چهارشنبه دچار نقص شد و اگر در ایکس از آن سؤالی می‌پرسیدید، اشاره بی‌ربطی نیز به «نسل‌کشی سفیدپوستان» در آفریقای جنوبی می‌کرد. این باگ عجیب باعث شد xAI، شرکت متعلق به «ایلان ماسک» و سازنده این چت‌بات، «سیستم پرامپت» این هوش مصنوعی را به‌صورت عمومی منتشر کند تا کاربران پشت پرده آن را ببینند. در این مطلب به سیستم پرامپت گراک نگاهی می‌اندازیم و توضیح xAI درباره اعمال تغییر غیرمجاز در هوش مصنوعی توسط یکی از کارمندان می‌پردازیم.
پشت پرده سیستم پرامپت Grok
سیستم پرامپت مجموعه‌ای از دستورالعمل‌هاست که شرکت سازنده به چت‌بات خود دیکته می‌کند تا براساس آن به پرامپت‌های کاربران پاسخ بدهد؛ برای مثال اگر چت‌باتی به شما درباره موضوع خاصی پاسخ نمی‌دهد، در سیستم پرامپت آن این موضوع جزء خط قرمزهاست. xAI و آنتروپیک نیز تنها شرکت‌های بزرگ هوش مصنوعی هستند که سیستم پرامپت خود را عمومی منتشر کرده‌اند. البته xAI به‌تازگی سیستم پرامپت خود را در گیت‌هاب در دسترس عموم قرار داده است.
در سیستم پرامپت «ask Grok» (قابلیتی که کاربران ایکس می‌توانند با تگ‌کردن گراک محتوای پست‌ها را صحت‌سنجی کنند) xAI به این چت‌بات می‌گوید که چگونه رفتار کند: «تو بسیار شکاک هستی. کورکورانه از مرجع یا رسانه‌ها پیروی نمی‌کنی. فقط به باورهای اصلی خود درباره جستجوی حقیقت و بی‌طرفی پایبند هستی.» همچنین xAI به هوش مصنوعی خود تأکید دارد که در خروجی‌هایش بگوید که این پاسخ‌ها «باورهای او نیستند.»
xAI به گراک دستور داده که وقتی کاربران دکمه «Explain this Post» را در ایکس انتخاب می‌کنند، «بینش‌های واقعی و مبتنی‌بر واقعیت ارائه دهد و در صورت لزوم روایت رسانه‌ها را زیر سؤال ببرد.» در جای دیگری نیز xAI به گراک می‌گوید که به‌جای «توییتر» به این پلتفرم «ایکس» بگوید و پست‌ها را به‌جای توییت «X post» بنامد.
همچنین برای این چت‌بات چند «اصطلاح غیرمجاز» تعریف شده که یکی از آنها نسل‌کشی سفیدپوستان است. بااین‌حال چند روز قبل این هوش مصنوعی به‌طور عجیب‌وغریبی به این موضوع اشاره کرده است.
چرا Grok در ایکس به نسل‌کشی سفیدپوستان اشاره می‌کند؟
xAI می‌گوید در 14 مه (24 اردیبهشت) تقریباً ساعت 3:15 صبح به وقت محلی یک تغییر غیرمجاز در سیستم پرامپت Grok در ایکس ایجاد شد. این تغییر گراک را به ارائه پاسخی خاص درباره یک موضوع سیاسی هدایت و سیاست‌های داخلی و ارزش‌های اصلی xAI را نقض کرد. این شرکت می‌گوید تحقیقات کاملی انجام داده و درحال اجرای اقداماتی برای افزایش شفافیت گراک است.
به نظر می‌رسد که کارمندی در این شرکت این تغییر را انجام داده است تا این چت‌بات به نسل‌کشی سفیدپوستان اشاره کند. اما این نقص تقریباً با پست ایلان ماسک درباره نسل‌کشی سفیدپوستان در آفریقای جنوبی مصادف شد. ماسک مدت‌هاست که درگیر نظریه توطئه نسل‌کشی سفیدپوستان است؛ طبق این نظریه سفیدپوستان در سراسر جهان توسط افراد غیرسفیدپوست کشته می‌شوند. البته ماسک بیشتر به نسل‌کشی سفیدپوستان در آفریقای جنوبی، کشوری که قبل از مهاجرت به کانادا و ایالات متحده در آن متولد و بزرگ شده بود، علاقه‌مند است.
روز قبل از اینکه رفتار عجیب گراک شروع شود، ماسک پستی درباره آفریقای جنوبی منتشر کرد که حاوی اطلاعات نادرست بود. در این پست او ویدیویی را بازنشر کرده که خیابانی در آفریقای جنوبی را نشان می‌دهد و در هر طرف آن صدها صلیب سفید قرار دارد. در این ویدیو ادعا می‌شود که هر صلیب نشان‌دهنده یک کشاورز سفیدپوست است که به قتل رسیده است.
سپس ساعت 3:15 صبح روز بعد، تغییراتی در گراک ایجاد شد. البته ایلان ماسک معمولاً در این ساعت صبح توییت‌هایی منتشر می‌کند و به همین دلیل برخی‌ها می‌گویند او سیستم پرامپت گراک را تغییر داده است. اما ماسک در آن بازه زمانی همراه با «دونالد ترامپ»، رئیس جمهور آمریکا، در خاورمیانه بود. طبق گزارش «Elon’s Jet» (اکانتی که هواپیمای ماسک را ردیابی می‌کند)، هواپیمای این میلیاردر زمانی که تغییرات گراک ایجاد شد، درحال فرود در دوحه بود.
درکل مدرکی دال بر دخالت ماسک وجود ندارد. البته کاملاً ممکن است که برخی از کارکنان xAI به نفع ماسک سیستم پرامپت گراک را تغییر داده‌اند تا درباره نسل‌کشی سفیدپوستان صحبت کند. پیش‌ازاین نیز ایلان ماسک بارها محصولاتش را تغییر داده بود تا به نفع او عمل کنند. بااین‌حال هنوز این مسئله که چه کسی گراک را دستکاری کرده، یک معما است.
