چالش هوش مصنوعی گوگل

همکاران سیستم : چندی پیش جان جیاناندریا مدیر بخش هوش مصنوعی گوگل، در جریان کنفرانس Made in AI با اظهار نگرانی نسبت به سیستم‌های هوشمندی که تعصبات انسان‌ها را یاد می‌گیرند، گفت: نیاز نیست ما نگران روبات‌های قاتل باشیم بلکه باید از تبعیض و رفتارهای جانبدارانه بترسیم.

وی افزود: اگر ما این سیستم‌ها را با اطلاعات تبعیض‌آمیز تغذیه کنیم، آنها رفتارهای جانبدارانه‌ای از خود بروز خواهند داد. این چیزی است که گوگل در گذشته با آن درگیر بوده است. مثلا چندی پیش مشخص شد که الگوریتم نژادپرستانه هوش مصنوعی تشخیص تصویر گوگل به گونه‌ای عمل می‌کند که «گوریل» را روی تصاویر مربوط به افراد سیاهپوست برچسب می‌زند. این موضوع با انتقادات شدید روبه‌رو شد و گوگل وعده داد که برای جلوگیری از تکرار این خطا،  اقدام فوری انجام دهد. در حال حاضر هر محصول جدیدی که در گوگل راه‌اندازی شود، با دقت مورد تست و بررسی خانم جنای و تیم او قرار می‌گیرد و جنبه‌های مختلف آن از قبیل مسائل فنی، حقوقی، محرمانگی و اجتماعی ارزیابی می‌شود. از جمله راهکارهای گوگل برای مقابله با چالش تبعیض می‌توان به بهبود پایگاه‌های داده و درک نحوه عملکرد الگوریتم‌های مورد استفاده اشاره کرد، هر چند با همه این تلاش‌ها، گوگلی‌ها بر این باورند که تبعیض، فرآیندی است که از خود انسان‌ها نشات می‌گیرد.