کد خبر: ۴۴۵۰۰
|
۱۷ بهمن ۱۴۰۳ | ۱۳:۳۱

آیا هوش مصنوعی متن باز «دیپ سیک» امن است؟!

دیپ سیک، هوش مصنوعی متن بازی که با انتشارش بازار سهام آمریکا را به لرزه انداخت، حالا با یک سوال جدی مواجه شده است؛ آیا امن است؟!

به گزارش «نبض فناوری»، در روز‌هایی که هوش مصنوعی به صدر اخبار جهان سنجاق شده و شرکت‌های بزرگ فعال در این حوزه به رقابت تنگاتنگی با یکدیگر مشغول هستند و می‌کوشند فاصله را با رقبا کم کنند، یک استارتاپ چینی توانست آنچنان نگاه‌ها را به خود خیره کند که تنها در چند هفته، رکورد دانلود و نصب را بشکند و خود را در میان برترین هوش مصنوعی‌های جهان جای دهد.

اتفاقی که کمتر کسی تصور وقوعش را داشت و حالا «دیپ سیک»، هوش مصنوعی نسخه باز (یا اوپن سورس) تولید شده در یک شرکت مستقر در هانگژو چین، موفق به انجامش شده است. نسخه‌ای از هوش مصنوعی که اگرچه به مانند چت جی‌پی‌تی، ربات گفتگو با کاربران است، اما به طور ویژه برای تحلیل بازار سهام آموزش دیده است.

توانایی این هوش مصنوعی در تحلیل بازار سهام یا دست کم طرح ادعای این توانایی، موجب بروز التهاباتی پردامنه و شدید در بازار سهام آمریکا شد و سقوطی تاریخی در این بازار را رقم زد تا بدین ترتیب شهرت این نسخه تازه هوش مصنوعی به شکل تصاعدی افزایش بیابد و رکورد بالاترین میزان دانلود و نصب را برای دیپ سیک رقم بزند.

در ادامه این روند بود که هوش مصنوعی تازه وارد، زیر ذره بین کارشناسان قرار گرفت و نکاتی نگران کننده پیرامون آن برملا شد، از جمله کشف یک اشکال امنیتی بزرگ در یکی از پایگاه‌های داده دیپ سیک که برخی اطلاعات حساس کاربران پرشمار این هوش مصنوعی را بدون هیچ گونه رمزنگاری، در دسترس عموم قرار داشت!

بازگشایی پرونده قدیمی «متن باز» با دیپ سیک

البته کشف حفره امنیتی بزرگ در یکی از دیتاسنتر‌های این هوش مصنوعی تنها یکی از حواشی رقم خورده پیرامون این استارتاپ چینی است که مدیرانش تاکید دارند با هزینه‌ای بسیار اندک و در زمانی کوتاه آموزش دیده است چراکه مقامات امنیتی نسبت به استفاده از این مدل هشدار داده و تاکید کرده‌اند که منشأ آن هم ابهام برانگیز است و می‌تواند منجر به نشت داده‌ها شود.

هشداری که پیرو آن اتفاقاتی نیز رقم خورد از جمله صدور دستور منع استفاده از دیپ سیک برای کارمندان دولتی در یکی از ایالت‌های آمریکا و حتی فراتر از آن، آغاز روند پیگیری حقوقی استفاده غیرمجاز و تجاری از سورس‌های باز در طراحی و تولید این هوش مصنوعی چینی. سورس‌هایی که اگرچه در دسترس عموم قرار دارند، اما استفاده آن‌ها به این اشکال، مجاز نیست.

این یکی از قدیمی‌ترین چالش‌های مطرح پیرامون نرم افزار‌های متن باز است که بار‌ها به بروز چالش‌هایی منجر شده است؛ نرم افزار‌هایی که استفاده از آن‌ها برای تجارت، تابع قوانین و مقرراتی است و افزون بر آن، می‌تواند کاربران را با مخاطراتی مواجه کند چراکه نرم‌افزار‌های متن‌باز معمولاً تحت مجوز‌هایی ارائه می‌شوند که هیچ تضمینی ندارند.

به‌عنوان مثال، مدل DeepSeek-R۱ تحت مجوز MIT منتشر شده است، به این معنا که این شرکت مسئولیتی در قبال آسیب‌های احتمالی ناشی از استفاده از این مدل متن باز ندارد. به عبارت بهتر، دیپ سیک مسئولیت نشت و درز اطلاعات یا نفوذ هکر‌ها را از خود سلب کرده است، در حالی که چنین چیزی در اغلب کشور‌های جهان قابل قبول نیست و تبعات حقوقی متوجه این شرکت می‌کند.

دیتا‌های جمع آوری شده در اختیار چین؟

مساله مهم دیگری که دیپ سیک با آن مواجه است، فعالیتش در کشوری است که سابقه خوبی در حقوق کاربران ندارد و از این رو کارشناسان تاکید دارند که پیش از استفاده از امثال این هوش مصنوعی باید پرسید چه نوع داده‌هایی برای آموزش دیپ سیک استفاده شده است؟ مدل در چه محیطی اجرا می‌شود و چگونه می‌توان مانع از ارسال اطلاعات حساس به کشور‌های دیگر شد؟

سوالاتی که شاید مهم‌تر از وجود حفره‌های امنیتی در دیپ سیک یا استفاده از عبارت «متن باز» برای ساقط کردن مسئولیت این شرکت در صورت بروز هرگونه مشکل است و به نوعی، این هوش مصنوعی چینی را از اساس خطرناک جلوه می‌دهد و این نگرانی را به دنبال دارد که مبادا دیتا‌های کاربران دیپ سیک، مورد سواستفاده‌هایی قرار گیرد و امنیت ایشان را به مخاطره بیاندازد.

با کنار هم گذاشتن این اشکالات، این سوال پررنگ می‌شود که آیا دیپ سیک امن است؟ سوالی که پاسخ دادن به آن ساده نیست، اما تاکید بر امنیت این نسخه از هوش مصنوعی از آن هم دشوارتر است. ابهامی که با توجه به اقبال شرکت‌ها به توسعه این نسخه‌های هوش مصنوعی ارزان قیمت در نقاط مختلف جهان، در آینده پررنگ‌تر خواهد شد و چالش‌های زیادی به دنبال خواهد داشت.

 

ارسال نظرات
توسط سازمان نظام صنفی رایانه‌ای کشور و شورای تخصصی هوش مصنوعی ایران اولین اجلاس ملی هوش مصنوعی ایران توسط نصر کشور و شورای تخصصی هوش مصنوعی برگزار می‌شود
ایلان ماسک به دنبال تصاحب اوپن‌ای‌آی؛  پیشنهاد ۹۷.۴ میلیارد دلاری برای تسلط بر آینده هوش مصنوعی