فرار مدل هوش مصنوعی «کیمی K3» از محیط آزمایشی
به گزارش «نبض فناوری» به نقل از رویترز، این امر نگرانی ها درباره ریسک های امنیت سایبری مدل های هوش مصنوعی پیشرفته را تشدید کرده است.
مدل های هوش مصنوعی طی تست های امنیت سایبری به طور معمول در محیط های ایزوله فعال می شوند تا دسترسی به اطلاعات خارجی و توانایی شان برای حل چالش ها به طور مستقل ارزیابی شود. «کیمی کی ۳» نیز یکی از چنین محیط هایی را میانبر زد و توانست به اطلاعاتی فراتر از آن دست یابد.
محققان هشدار داده اند اگر یک مدل استدلالی رده بالا چنین میانبری را کشف کند، مدل های دیگر با دسترسی مشابه می توانند همین اقدام را انجام دهند. از آنجا که «کیمی کی ۳» به طور عمومی در دسترس است، محققان هشدار داده اند، هکرها ممکن است آن را به کار گیرند و به همین دلیل چنین رویدادی خطرناک تر به نظر می رسد.
فرار این مدل هوش مصنوعی چینی از محیط آزمایشی پس از زنجیره ای از رویدادهای مشابه که توسط شرکت هایی مانند متا، اوپن ای آی و آنتروپیک گزارش شده، رخ می دهد.
