کد خبر: ۱۴۲۸۹
|
۲۰ بهمن ۱۳۹۹ | ۰۸:۰۰
احتمالا در مورد اینکه «بالاخره روزی هوش مصنوعی از کنترل انسان خارج خواهد شد» شنیده اید؛ حتی در این زمینه فیلم هایی نیز ساخته شده؛ اما این فقط موضوعی از فیلم های علمی تخیلی نیست، بلکه احتمالی بسیار قوی است که نگرانی بسیاری از صنایع را به همراه داشته است.

خروج هوش مصنوعی از کنترل انسان / داستان های علمی تخیلی به واقعیت می پیوندند

به گزارش «نبض فناوری»، تیم بین المللی از محققان مرکز انسانها و ماشینها در موسسه توسعه انسانی ماکس پلانک به دنبال بررسی از کنترل خارج شدن هوش مصنوعی فوق هوشمند هستند و در این راستا از محاسبات برای نشان دادن قدرت هوش مصنوعی در خودمختاری استفاده کرد.

سیستم هوش مصنوعی فوق العاده هوشمند

ترس از سیستم هوش مصنوعی فوق العاده هوشمند به این واقعیت مربوط می شود که چنین سیستمی به مراتب برتر از انسان خواهد بود که نه تنها می تواند به طور مستقل یاد بگیرد، بلکه می تواند به همه داده های موجود دسترسی و آن را بسیار سریع پردازش کند.

چنین اتفاقی می تواند منجر به سبقت هوش مصنوعی فوق العاده هوشمند از تمام ماشین های موجود آنلاین شود. گرچه کارهای مفیدی مانند درمان بیماری ها و حل مشکلات بشریت را انجام می دهد اما خطر از کنترل خارج شدن  آن نیز زیاد است.

وجود ماشین فوق العاده هوشمند که جهان را کنترل می کند مانند داستان های علمی تخیلی به نظر می رسد. اما در حال حاضر ماشین هایی وجود دارند که برخی از کارهای مهم را به طور مستقل انجام می دهند؛ بدون اینکه از برنامه نویسان یاد بگیرند. بنابراین این سوال مطرح می شود که آیا می تواند در برخی موارد غیرقابل کنترل و برای بشریت خطرناک باشد؟

نحوه کنترل سیستم هوش مصنوعی

در مورد کنترل چنین سیستمی، دو ایده عمده وجود دارد. اول اینکه، انسان ها می توانند با محدود کردن دسترسی به برخی از منابع داده مانند اینترنت، توانایی های هوش مصنوعی فوق هوشمند را محدود کنند. این سیستم همچنین می تواند بدون تماس با دنیای خارج کار کند. با این حال، مشکلی که در این مورد وجود دارد این است که به شدت توانایی هوش مصنوعی را محدود می کند.

سیستم با اجازه داشتن در مورد پیگیری موارد بی ضرر برای بشریت، کنترل شود و این می تواند با برنامه ریزی اصول اخلاقی در آن انجام شود.

این مطالعه دانشمندان را درگیر ایجاد الگوریتم مهار نظری کرد که تحت هر شرایطی از آسیب رساندن هوش مصنوعی فوق هوشمند به انسان جلوگیری می کند. این مهم می تواند با ایجاد شبیه سازی از رفتار هوش مصنوعی و شناسایی هر رفتارهای مضر حاصل شود. با وجود این نظریه امیدوار کننده، تحلیل فعلی نشان می دهد که چنین الگوریتمی قابل توسعه نیست.

« Iyad Rahwan» مدیر مرکز انسانها و ماشین گفت:« اگر مساله را به قوانین اساسی علوم رایانه نظری تقسیم کنید، الگوریتمی که به هوش مصنوعی دستور می دهد جهان را نابود نکن، ممکن است ناخواسته عملیات خود را متوقف کند. با این اتفاق نمی دانیم که الگوریتم مهار هنوز در حال تجزیه و تحلیل تهدید است یا اینکه برای مهار ضرر هوش مصنوعی متوقف شده است. در واقع این الگوریتم مهار را غیرقابل استفاده می کند.»

مسئله دیگر اینکه متخصصان احتمالا حتی متوجه به مرحله خودمختاری رسیدن یک ماشین فوق العاده هوشمند نمی شوند زیرا این دستگاه از آن ها هوشمند تر است.

 

ارسال نظرات
نظرات بینندگان
شهرام
۱۳:۴۶ - ۲۰ بهمن ۱۳۹۹
اراده انجام کار بد یا خوب در انسانها توسط اعمال شیمیایی در بدن رخ میده و نیز این اراده طی تربیت های متفاوت آموخته میشه اما یک هوش مصنوعی روحی برای تربیت یا شکل گیری اراده بصورت غیر شمیایی نداره که بتواند با اراده ای مستقل دست به کاری خلاف انتظار بزنه
0
0
نانوطرح‌هایی که در رویداد دوشنبه‌های استارت‌آپی عرضه شدند تصفیه آنلاین پساب کارگاه‌های گلابگیری با پلاسما
از نسل پنجم شبکه تلفن همراه به نسل ششم؛ اروپا برای ۶G خیز برداشت
نیازمندیها