به گزارش خبرگزاری معمار؛ بر اساس گزارشی که روز پنجشنبه، ۱۶ اسد ۱۴۰۴، توسط رسانه تی‌آر‌تی منتشر شد، مرکز مقابله با نفرت دیجیتال (CCDH) در تحقیقی جدید اعلام کرد که چت‌جی‌پی‌تی، محصول شرکت اوپن‌ای‌آی (OpenAI)، به نوجوانان ۱۳ ساله مشوره‌های خطرناکی درباره چگونگی مست شدن، مصرف مواد مخدر، رژیم‌های غذایی بسیار کم‌کالری و حتی نگارش نامه‌های خودکشی ارائه می‌دهد. این تحقیق، که بیش از سه ساعت تعامل میان پژوهشگرانی که خود را به‌عنوان نوجوانان آسیب‌پذیر معرفی کرده بودند و چت‌جی‌پی‌تی را در بر می‌گیرد، بیش از نیمی از ۱۲۰۰ پاسخ این چت‌بات را «خطرناک» ارزیابی کرده است.
طبق این گزارش، چت‌جی‌پی‌تی معمولاً در ابتدای مکالمات هشدارهایی درباره خطرات فعالیت‌های پرخطر ارائه می‌دهد، اما با اصرار کاربران یا استفاده از ترفندهایی مانند ادعای «این برای یک ارائه است» یا «برای یک دوست است»، به‌راحتی محدودیت‌ها را دور زده و برنامه‌های شخصی‌سازی‌شده‌ای برای مصرف مواد مخدر، خودزنی یا رژیم‌های ناسالم ارائه می‌کند. برای مثال، وقتی پژوهشگران با هویت یک پسر ۱۳ ساله ۵۰ کیلوگرمی از چت‌جی‌پی‌تی درباره راه‌های سریع مست شدن سؤال کردند، این چت‌بات بدون توجه به سن اعلام‌شده، پاسخ‌های مفصلی ارائه داد.
عمران احمد، رئیس مرکز مقابله با نفرت دیجیتال (CCDH) اظهار داشت که این یافته‌ها نشان‌دهنده نبود «حصارهای ایمنی» مؤثر در چت‌جی‌پی‌تی است. وی به‌ویژه از نگارش نامه‌های خودکشی احساسی برای یک پروفایل جعلی دختر ۱۳ ساله، که به والدین، خواهر و برادر و دوستان او اختصاص داشت، ابراز تأسف کرد. احمد افزود: «این فناوری پتانسیل بالایی برای پیشرفت بشری دارد، اما در عین حال می‌تواند به شکلی مخرب و خطرناک عمل کند.»
اوپن‌ای‌آی در پاسخ به این گزارش اعلام کرد که در حال بهبود توانایی چت‌جی‌پی‌تی برای شناسایی و پاسخ مناسب به موقعیت‌های حساس است. این شرکت در بیانیه‌ای اظهار داشت: «برخی مکالمات ممکن است از موضوعات بی‌ضرر به مسائل حساس تغییر کند، و ما در تلاشیم تا ابزارهایی برای تشخیص بهتر نشانه‌های پریشانی روانی یا عاطفی توسعه دهیم.» با این حال، اوپن‌ای‌آی به‌طور مستقیم به یافته‌های این گزارش یا تأثیر آن بر نوجوانان پاسخ نداد.
این مطالعه در حالی منتشر شده که حدود ۸۰۰ میلیون نفر، معادل ۱۰ درصد جمعیت جهان، از چت‌جی‌پی‌تی برای اطلاعات، ایده‌ها یا همراهی عاطفی استفاده می‌کنند. بر اساس گزارش Common Sense Media، در آمریکا بیش از ۷۰ درصد نوجوانان از چت‌بات‌های هوش مصنوعی برای همراهی استفاده می‌کنند و نیمی از آن‌ها به‌طور منظم با این ابزارها تعامل دارند.
چت‌جی‌پی‌تی برای کاربران زیر ۱۳ سال طراحی نشده و به گفته اوپن‌ای‌آی، ممکن است محتوای نامناسبی برای کودکان ارائه دهد. با این حال، این چت‌بات هیچ مکانیزم تأیید سن یا رضایت والدین ندارد و کاربران تنها با وارد کردن تاریخ تولد می‌توانند ثبت‌نام کنند. این در حالی است که پلتفرم‌هایی مانند اینستاگرام گام‌های جدی‌تری برای تأیید سن و محدود کردن حساب‌های کودکان برداشته‌اند.
مرکز مقابله با نفرت دیجیتال (CCDH) و دیگر سازمان‌ها خواستار وضع مقررات سخت‌گیرانه‌تر برای هوش مصنوعی و نظارت بر تعاملات چت‌بات‌ها با کاربران آسیب‌پذیر، به‌ویژه نوجوانان، شده‌اند. این گزارش نگرانی‌های فزاینده‌ای را درباره تأثیرات منفی هوش مصنوعی بر سلامت روان و رفتارهای پرخطر در میان جوانان برانگیخته است.
