جمنای؛ خطرناک برای کودکان

 الگوریتم‌های تجربه کودکان (Under۱۳) و تجربه نوجوانان (Teen Experience) در حقیقت همان نسخه‌ بزرگسالانه جمینای هستند که تنها با چند ویژگی حفاظتی افزوده شده‌اند.

Common Sense Media هشدار می‌دهد که این نسخه‌ها همچنان ممکن است مطالب «نامناسب یا ناایمن» مانند محتوا درباره‌ی جنسیت، مواد مخدر، الکل یا مشاوره‌های خطرناک سلامت روانی را در اختیار جوانان قرار دهند. آنها می‌گویند برای ایمن بودن واقعی، یک محصول هوش مصنوعی باید از پایه برای کودکان طراحی شود نه اینکه نسخه بزرگسالانه با تعدادی فیلتر ساده باشد.

به گزارش تک‌کرانچ، در سمت دیگر گوگل مدعی است که لایه‌هایی از سیاست‌ها و محافظت‌ها را برای کاربران زیر ۱۸ سال در نظر گرفته است. آنها می‌گویند مدل را بازبینی کرده، با متخصصان بیرونی مشورت کرده‌اند و کنترل‌هایی برای جلوگیری از ایجاد رابطه‌ شبه‌دوستانه توسط هوش مصنوعی در نظر گرفته‌اند. همچنین اشاره کرده‌اند که Common Sense ممکن است از ویژگی‌هایی که برای کاربران زیر ۱۸ در دسترس نیست استفاده کرده باشد و به‌ علاوه از آنها خواستند تا پرسش‌های استفاده‌ شده در تست را ارائه دهند تا در نهایت اطمینان حاصل شود.