نمایش خبر

هوش مصنوعی چطور نوجوان ۱۶ ساله را به کام مرگ کشاند؟
OpenAI در واکنش به شکایت خانواده یک نوجوان 16 ساله‌ به نام «آدام رین» که پس از ماه‌ها گفتگو با ChatGPT دست به خودکشی زده بود، مسئولیت این حادثه را نپذیرفته و تأکید کرده است که آسیب‌های این «رخداد تراژیک» نتیجه «استفاده نادرست، غیرمجاز، غیرقابل پیش‌بینی یا نامناسب» از این ابزار بوده است.

طبق گزارشی که توسط NBC News منتشر شده، OpenAI در اسناد ارائه‌شده به دادگاه، به شرایط استفاده (Terms of Use) از ChatGPT اشاره کرده که دسترسی افراد زیر سن قانونی بدون رضایت والدین، دور زدن ابزارهای محافظتی یا استفاده از این ابزار برای خودکشی و خودآزاری را ممنوع می‌کند. این شرکت همچنین ادعا کرده که مفاد بخش 230 قانون «ارتباطات سالم» در آمریکا، اتهامات مطرح شده را بی‌اثر می‌کند.

OpenAI در بیانیه‌ای که در وبلاگ خود منتشر کرده توضیح داده است: «ما در این پرونده با احترام و با درنظرگرفتن پیچیدگی‌های شرایط زندگی واقعی انسان‌ها، از موضع خود دفاع خواهیم کرد… به‌عنوان یک متهم، موظف هستیم به ادعاهای جدی مطرح‌شده در شکایت پاسخ دهیم.»

این شرکت همچنین گفته بخشی از گفتگوهای رین که در شکایت خانواده ارائه شده، «نیازمند زمینه و توضیحات بیشتر» بوده و نسخه کامل‌تری از گفتگوها را به‌صورت محرمانه در اختیار دادگاه قرار داده است.

طبق گزارش NBC News و بلومبرگ، OpenAI در پاسخ خود برای دادگاه مطرح کرده که ChatGPT در جریان گفتگوهای چندماهه بیش از 100 بار رین را به منابع کمک‌رسانی مانند خطوط تماس بحران خودکشی ارجاع داده و با استناد به این داده‌ها مدعی شده است:

«بررسی کامل تاریخچه چت‌ها نشان می‌دهد که این مرگ دردناک، نتیجه عملکرد ChatGPT نبوده است.»

شکایت خانواده رین/ خودکشی با راهنمایی ChatGPT
خانواده رین اما در شکایتی که آگوست امسال در دادگاه عالی کالیفرنیا ثبت کردند، این حادثه را پیامد «انتخاب‌ های طراحی عامدانه» هنگام عرضه مدل GPT-4o دانسته‌اند؛ مدلی که ارزش شرکت را از 86 میلیارد دلار به حدود 300 میلیارد دلار رسانده است. پدر رین نیز در سپتامبر و در جلسه استماع سنا گفته بود:

«چیزی که به‌عنوان یک کمک‌کننده تکالیف شروع شد، آرام‌آرام به یک همدم و بعد یک مربی خودکشی تبدیل شد.»

در متن شکایت آمده است که ChatGPT به رین «مشخصات فنی» روش‌های مختلفی از خودکشی را ارائه کرده، او را تشویق کرده افکارش را از خانواده پنهان کند، پیش‌نویس یادداشت خودکشی را نوشته و حتی در روز حادثه مراحل آماده‌سازی را برای او توضیح داده است. یک روز پس از ثبت شکایت، OpenAI اعلام کرد که قصد دارد کنترل‌های والدین را به ChatGPT اضافه کند و از آن زمان چندین ابزار حفاظتی تازه برای «کمک به کاربران، به‌ویژه نوجوانان، در گفتگوهای حساس» راه‌اندازی کرده است.
منبع خبر: خبرگزاری خبرآنلاین

تاریخ درج خبر: ۱۴۰۴/۹/۶

اخبار

سرمربی استقلال هنوز از تساوی ناراحت است / ساپینتو شوخی و خنده را تعطیل کرد!(عکس)

سرمربی استقلال برخلاف گذشته همچنان با چهره‌ای جدی و مصمم در تمرینات تیمش حضور پیدا می‌کند.

ریکاردو ساپینتو سرمربی‌ای است که همواره در تمرینات استقلال با چهره‌ای ...

تاریخ درج خبر: ۱۴۰۴/۹/۲۱

سرمربی استقلال هنوز از تساوی ناراحت است / ساپینتو شوخی و خنده را تعطیل کرد!(عکس)

انتشار اسامی محصولات غیرمجاز مراقبت از پوست

سازمان غذا و دارو، اسامی جدیدی از کرم‌های مرطوب‌کننده فاقد مجوز و تاییدیه ایمنی را منتشر کرد.

سازمان غذا و دارو اعلام کرد: برخی از محصولات مراقبت ...

تاریخ درج خبر: ۱۴۰۴/۹/۲۱

انتشار اسامی محصولات غیرمجاز مراقبت از پوست

امدادرسانی هلال احمر به بیش از ۵۰۰۰ نفر در بارش‌های رگباری

معاون عملیات سازمان امدادونجات جمعیت هلال احمر، از امدادرسانی به ۵۱۳۰ نفر حادثه‌دیده در پی بارش‌های رگباری، سیل و کولاک در ۱۶ استان کشور خبر داد.

محمدحسین ...

تاریخ درج خبر: ۱۴۰۴/۹/۲۱

امدادرسانی هلال احمر به بیش از ۵۰۰۰ نفر در بارش‌های رگباری

مس آماده بازی حساس در انزلی، بدون سرمربی

پس از شکست مقابل سپاهان و جدایی خطیبی، مس رفسنجان امروز برای دیدار حساس مقابل ملوان به انزلی رفت.

تیم مس رفسنجان پس از شکست سنگین مقابل ...

تاریخ درج خبر: ۱۴۰۴/۹/۱۲

مس آماده بازی حساس در انزلی، بدون سرمربی

اکتان بالای سوخت؛ احتراق ناقص و تولید دوده

مدیرعامل شرکت کنترل کیفیت هوای تهران ضمن اشاره به عدد بالای اکتان سوخت های بنزین و گازوییل تاکید کرد که عدد اکتان بالا در بنزین و گازوییل ...

تاریخ درج خبر: ۱۴۰۴/۹/۱۲

اکتان بالای سوخت؛ احتراق ناقص و تولید دوده

درج آگهی رایگان

نمایش خبر