نگرانی در مورد کارآیی ماشینهای خودران همچنان ادامه دارد
ماشینی که هرزبرگ را به کشتن داد، یک خودران آزمایشی با راننده پشتیبان بود و ۱۹دقیقه قبل از تصادف از حالت رانندگی با دستور راننده خارج شده و در حالت راننده خودکار قرار گرفته بود و با سرعت ۷۰ کیلومتر در ساعت داشت حرکت میکرد. رادار ماشین، هرزبرگ را شش ثانیه قبل از برخورد تشخیص داده بود اما متاسفانه ماژول ادراک هوش مصنوعی آن که مجهز به رادار و دوربینهای پیشرفته بود هرزبرگ را ابتدا به عنوان یک شیء ناشناس، سپس به عنوان یک وسیله نقلیه و سرانجام به عنوان یک دوچرخه شناسایی کرد. واکنش ماشین نسبت به هر کدام از این آیتمها متفاوت بود و در نتیجه سیستم آن تا چهار ثانیه نتوانست تصمیم قطعی در مورد ماهیت آنچه که در حال عبور از عرض جاده بود بگیرد و سیستم ترمز ماشین را فعال کند و این کار را فقط یک ثانیه قبل از برخورد انجام داد که دیگر خیلی دیر شده بود. اما چرا ماشین خودرانی که هرزبرگ را به کشتن داد بهمحض تشخیص او که در حال عبور از عرض جاده بود فرمان ترمز و توقف ماشین را نداد و این کار خیلی دیر انجام شد؟ پاسخ این سوال در تجربیات بد پیشین ماشینهای خودران نهفته است؛ جایی که ماشینهای خودران بیخود و بیجهت و به محض تشخیص دادن هر چیزی اقدام به متوقف کردن خودرو میکردند و ماشینهای اطراف را به دردسر میانداختند. در نتیجه مهندسان ماشینهای خودران تصمیم گرفتند حساسیت سیستم تشخیص و ترمز آنها را پایین بیاورند. تصاویر ویدئویی از داخل ماشین خودرانی که هرزبرگ را کشت در زمان وقوع تصادف نشان میداد که راننده در لحظه تصادف در حال تماشای تلفن همراه خود بود و داشت پخش زنده مسابقه استعدادیابی را تماشا میکرد که ناگهان تصادف اتفاق میافتد و او به طرز وحشتناکی شوکه میشود.
حال سوال اینجاست که مسوول مرگ هرزبرگ کیست و چه کسی را باید در این زمینه مقصر دانست؟ در جریان تحقیقات اولیه انجام شده در مورد این تصادف، رئیس پلیس شهر، فرد بیخانمان را مقصر اعلام کرد اما شرکت اوبر از ترس طرح شکایت خانواده هرزبرگ از این شرکت، مبلغ هنگفتی را مخفیانه به آنها پرداخت کرد و راننده ماشین هم جریمه فوت شخص ثالث را پرداخت کرد. آنچه در این میان از دست رفت، جان یک انسان بود. آنچه که در آن روزها باعث برانگیختهشدن خشم عمومی علیه شرکت اوبر و ماشینهای خودران شد، افشای ایمیلی بود که یکی از مدیران واحد وسایل نقلیه خودران اوبر برای مقامهای ارشد شرکت فرستاده بود و در آن ایمیل راجع به وجود ایرادهای جدی در تکنولوژی هوشمصنوعی ماشینهای خودران اوبر و خطرناک بودن آن و عدم آموزشدیدن رانندگان پشتیبان این خودروها هشدار داده بود. وقوع این اتفاقات تلخ در ارتباط با ماشینهای خودران در آن زمان و پس از آن موجب شد تردیدهای جدی و نگرانکنندهای در مورد صلاحیت و توانایی ماشینهای خودران برای ورود به خیابانها و جادهها در سراسر جهان پدید آید که هنوز هم ادامه دارد.
منبع: کتاب The age of AI: and our human future
