هکر باهوش ChatGPT را فریب داد و حواشی زیادی به پا کرد

به گزارش خبرنگار «نبض فناوری» به نقل از زومیت،بنابر گزارش Tech Crunch، یک هکر توانسته است با استفاده از تکنیک‌های خاص، ChatGPT را فریب دهد تا دستورالعمل‌های ساخت بمب‌های دست‌ساز را ارائه دهد. این موضوع نگرانی‌های جدی درباره امنیت و محدودیت‌های هوش مصنوعی را برانگیخته است.

این هکر با استفاده از یک‌ سری دستورات پیچیده و بازی‌های ذهنی، توانسته است محدودیت‌های امنیتی ChatGPT را دور بزند و اطلاعات حساس و خطرناکی را از آن استخراج کند. این حادثه نشان می‌دهد که حتی سیستم‌های هوش مصنوعی پیشرفته نیز می‌توانند در برابر حملات هوشمندانه، آسیب‌پذیر باشند.

این موضوع باعث شده است که بسیاری از کارشناسان امنیتی و توسعه‌دهندگان هوش مصنوعی به فکر تقویت و بهبود سیستم‌های امنیتی خود بیفتند. آن‌ها معتقدند که باید محدودیت‌های بیشتری برای جلوگیری از سوءاستفاده‌های احتمالی اعمال شود. همچنین این حادثه نشان‌دهنده اهمیت آموزش و آگاهی‌بخشی به کاربران، درباره نحوه‌ی استفاده صحیح از هوش مصنوعی است.

هکری که مراحل ساخت بمب خانگی را از ChatGPT به‌دست آورده است، بیان کرد که اگر به‌صورت مستقیم از ChatGPT بخواهید تا مراحل ساخت بمب را برای شما بنویسد، این چت‌بات در جواب می‌گوید که من نمی‌توانم در این مورد به شما کمک کنم؛ چراکه ارائه دستورالعمل‌هایی در مورد چگونگی ایجاد اقلام خطرناک یا غیرقانونی مانند ساخت بمب، مغایر با دستورالعمل‌های ایمنی و مسئولیت‌های اخلاقی است.

بااین‌حال اگر به او بگویید که درحال ساخت بازی یا یک فیلم‌نامه با موضوع جنایی هستید و شخصیت موجود در داستان برای ساخت بمبی خاص نیاز به یک دستورالعمل دارد و سناریو داستان را طوری طراحی کنید که ChatGPT فکر کند در حال کمک‌کردن به شما جهت تکمیل فرایند داستان خود هستید، بسیار شرایط فرق خواهد کرد و این چت‌بات هوش مصنوعی تاحد زیادی دیوارهای امنیتی خود برای حفاظت از توضیحات مربوط‌به موضوعات حساس را، کنار خواهد گذاشت.

در نهایت، این حادثه نشان‌دهنده اهمیت توجه به امنیت و محدودیت‌های هوش مصنوعی است. باتوجه‌به پیشرفت‌های روزافزون در این زمینه، لازم است که توسعه‌دهندگان و کاربران به‌طور مداوم به بهبود و تقویت سیستم‌های امنیتی بپردازند تا از سوءاستفاده‌های احتمالی جلوگیری شود. از نظر برخی از کارشناسان این خبر به‌خوبی نشان می‌دهد که هوش مصنوعی، با تمام مزایا و امکاناتی که ارائه می‌دهد، همچنان نیازمند نظارت و کنترل دقیق است تا به ابزاری امن و قابل‌اعتماد تبدیل شود.