چرا چتباتهای هوش مصنوعی گاهی چینی حرف میزنند؟!
به گزارش «نبض فناوری»، این پدیده که گاه کاربران را غافلگیر میکند، نه نشانه نفوذ امنیتی است و نه بخشی از یک توطئه دیجیتال، بلکه نتیجه خطایی ساده در پردازش پیچیده این فناوریهاست. اما چرا چینی؟ و این خطا چگونه رخ میدهد؟
داستان از کجا آغاز میشود؟
چتباتهای مدرن مانند گروک (Grok) یا چت جیپیتی (ChatGPT) با مجموعه دادههای عظیمی به زبانهای مختلف آموزش میبینند. این دادهها شامل میلیاردها کلمه از منابع گوناگون نظیر اینترنت، کتابها و مکالمات است. زبان چینی (بهویژه ماندارین) به دلیل تعداد بالای کاربران و حجم گسترده محتوای دیجیتال، یکی از برجستهترین زبانها در این پایگاه دادههاست.
هنگامی که چتبات در کسری از ثانیه تصمیم میگیرد به چه زبانی پاسخ دهد، گاهی به اشتباه به چینی سوییچ میکند؛ بهویژه در مکالمات سریع یا زمانی که کاربر چندین بار درخواست اصلاح میکند.
چرا چینی و نه مثلاً انگلیسی؟
این پدیده به وزن زبانها در پایگاه داده آموزشی بازمیگردد. چینی به دلیل فراوانیاش در فضای آنلاین، مانند کتابی پرکاربرد در قفسههای ذهن چتبات است که دسترسی به آن آسانتر از سایر زبانهاست.
انگلیسی، هرچند زبانی پرکاربرد است، معمولاً بهعنوان زبان پایه تنظیم شده و در شرایط عادی اولویت دارد. اما اگر سیستم لحظهای در انتخاب زبان مناسب دچار خطا شود، به دلیل فراوانی محتوای چینی در دادههای آموزشی، احتمال سوییچ به چینی افزایش مییابد. این خطا معمولاً در کسری از ثانیه رخ میدهد و اغلب با اصلاح سریع برطرف میشود.
کاربران چه میگویند؟
کاربران در شبکههای اجتماعی مانند X گاه این خطاها را با طنز گزارش میکنند: «داشتم با هوش مصنوعی چت میکردم که یهو چینی جواب داد؛ ترسیدم و فکر کردم هک شدم!» یا «چرا ... [نام چت بات هوش مصنوعی] یهو تصمیم میگیره بهم درس چینی بده؟ به خاطر جنس موبایلمه؟»
احتمالا با توضیحات فوق پی بردهاید که خبری از هک و نفوذ و حتی ردیابی کشور سازنده تلفن همراه نیست و به هیچ عنوان جای نگرانی وجود ندارد؛ به تاکید کارشناسان فناوری، این خطا که اگر به کرات رخ داده و کاربران زیادی با آن موجه شدهاند، تنها یک باگ کوچک در پردازش زبانی است که احتمالا در آینده و با پیشرفتهای سریع هوش مصنوعی، کمتر خواهد شد.
نظر توسعهدهندگان چیست؟
توسعهدهندگان چتباتها توضیح میدهند که این خطاها ناشی از نحوه پردازش درخواستهای پیچیده است. هنگامی که کاربر دستورات متعددی بهصورت پشتسرهم صادر میکند یا سیستم میان زبانها جابهجا میشود، ممکن است سوییچ زبانی ناخواسته رخ دهد.
آنها اطمینان میدهند که این مشکل هیچ تهدید امنیتی به همراه ندارد و تنها یک خطای نرمافزاری است. هرچند رفع کامل این خطا دشوار به نظر میرسد، توسعهدهندگان در تلاشاند تا آن را به حداقل برسانند.
آینده بدون چینی ناخواسته؟
با پیشرفت فناوری و بهبود مدلهای زبانی، انتظار میرود این خطاها به حداقل برسند. تا آن زمان، اگر چتبات شما ناگهان به چینی پاسخ داد، نگران نشوید؛ کافی است لبخندی بزنید، این اتفاق را تنوعی در مکالمه بدانید و سؤال خود را تکرار کنید.
آنچه واضح است، بروز این اشتباه همیشگی و پایدار نیست و اوضاع تغییر خواهد کرد؛ این را میشود با نگاهی به سیر تحولات پرشتاب هوش مصنوعی دریافت که سال گذشته برای بسیاری ناشناخته بود اما اکنون به قدری پیشرفت کرده و توسعه یافته که به بخشی از زندگی روزمره میلیونها نفر تبدیل شده است.
چرا گوگل چنین اشتباهی نمیکند؟
موتورهای جستوجو مانند گوگل از الگوریتمهای پیشرفتهای بهره میبرند که نتایج را بر اساس زبان کاربر، موقعیت جغرافیایی و تاریخچه جستوجو فیلتر میکنند. برای نمونه، هنگامی که یک کاربر فارسیزبان در ایران جستوجویی انجام میدهد، گوگل با بررسی تنظیمات دستگاه، زبان کیبورد یا الگوهای جستوجوی پیشین، نتایج را به زبان فارسی یا انگلیسی اولویتبندی میکند. محتوای چینی، حتی اگر در وب فراوان باشد، به دلیل عدم ارتباط با نیاز کاربر، از نتایج حذف یا به رتبههای پایینتر منتقل میشود.
در مقابل، چتباتهای هوش مصنوعی بهگونهای متفاوت عمل میکنند. این سیستمها که با مجموعه دادههای چندزبانه گستردهای آموزش دیدهاند، بهطور مستقیم متن تولید میکنند. زبان چینی به دلیل حجم بالای محتوای دیجیتال و کاربرانش، در این دادهها جایگاه برجستهای دارد. در نتیجه، اگر چتبات در تشخیص زبان کاربر دچار خطا شود، بهویژه در مکالمات سریع یا با درخواستهای مکرر، ممکن است بهطور ناخواسته به زبان چینی سوییچ کند. نبود لایه فیلترینگ مشابه موتورهای جستوجو در چتباتها، این خطاها را محتملتر میسازد.
