اعتمادسازی

هاروارد بیزینس ریویو طی مقاله‌ای به قلم بلر لوین و لری داونز به بررسی بحث اعتماد به عامل‌های هوش مصنوعی یا Agentic AIها، نقاط آسیب‌پذیر و راهکارهای اعتمادسازی پرداخته است. لوین و داونز در این مقاله بررسی می‌کنند که چطور ممکن است عامل‌های هوش مصنوعی به جای کمک به کاربران خود مسیر اشتباهی را در پیش بگیرند و به عاملی آسیب‌زا تبدیل شوند. موضوعاتی همچون نفوذ هکر‌ها و تبهکاران به این ابزارها که بدون مداخله انسانی وظیفه‌ای را برعهده می‌گیرند، از جمله مهمترین خطرات است اما مباحث دیگری همچون اثر‌گذاری بازیگران مهم بازار از جمله مشتریان تبلیغات و توسعه‌دهندگان این ابزارها در جهتی به نفع سود شخصی نیز از جمله دیگر نگرانی‌ها است.

دکتری علوم سیاسی، فوق لیسانس روابط بین الملل، گفت: اگر سعی کنیم مشتریان را با یک ترفندی به این اپلیکیشن‌ها تزریق کنیم در این صورت خاصیت رقابتی و خاصیت مشتری دوستی خودمان را از محصولاتمان زدوده‌ایم. قطعا این‌ها نمی‌توانند در درازمدت کیفیتی که مشتری می‌خواهد را فراهم سازند. یا اینکه بتوانند آن تجربیاتی که برای سیاست گذاری لازم است را بدست بیاورند.