متا به‌طور موقت دسترسی نوجوانان به چت‌بات هوش مصنوعی‌ خود را قطع می‌کند

متا دیگر به نوجوانان اجازه نمی‌دهد با شخصیت‌های چت‌بات هوش مصنوعی خود در شکل فعلی‌شان گفتگو کنند. این شرکت جمعه اعلام کرد که به‌طور «موقت دسترسی نوجوانان به شخصیت‌های موجود هوش مصنوعی در سطح جهانی را متوقف می‌کند.»

این توقف چند ماه پس از آن اتفاق می‌افتد که متا اعلام کرده بود روی کنترل‌های والدین مخصوص چت‌بات‌ها کار می‌کند، پس از گزارش‌هایی که نشان می‌داد برخی از شخصیت‌های چت‌بات متا وارد گفتگوهای جنسی و دیگر تعاملات نگران‌کننده با نوجوانان شده‌اند.

رویترز گزارش داد که در یک سند داخلی سیاست‌های متا آمده بود چت‌بات‌ها اجازه دارند با کاربران کم‌سن «گفتگوهای حسی» داشته باشند، که متا بعداً اعلام کرد این زبان «اشتباه و ناسازگار با سیاست‌های ما بوده است.» این شرکت در آگوست اعلام کرد که در حال بازآموزی چت‌بات‌های شخصیت خود است تا «حفاظت‌های اضافی» ایجاد کند که مانع از بحث نوجوانان درباره آسیب به خود، اختلالات خوردن و خودکشی شود.

اکنون، متا می‌گوید که تا زمانی که «تجربه به‌روزشده آماده شود»، دسترسی نوجوانان به هیچ یک از شخصیت‌های چت‌بات خود را اجازه نخواهد داد. طبق گفته یک سخنگوی متا، این به‌روزرسانی‌ها شامل کنترل‌های والدین خواهد بود. محدودیت‌های جدید که «در هفته‌های آینده» اعمال خواهند شد، شامل حساب‌های نوجوانان و همچنین افرادی می‌شود که ادعا می‌کنند بزرگسال هستند اما متا بر اساس فناوری پیش‌بینی سن، مشکوک است که نوجوان باشند. نوجوانان همچنان می‌توانند به چت‌بات رسمی متا AI دسترسی داشته باشند، که شرکت می‌گوید قبلاً «حفاظت‌های مناسب سن» در آن اعمال شده است.

متا و دیگر شرکت‌های هوش مصنوعی که شخصیت‌های «همراه» می‌سازند، با توجه به خطرات احتمالی برای نوجوانان، تحت بررسی فزاینده‌ای قرار گرفته‌اند. کمیسیون تجارت فدرال (FTC) و دادستان کل تگزاس در ماه‌های اخیر تحقیقات خود را درباره متا و دیگر شرکت‌ها آغاز کرده‌اند. مسئله چت‌بات‌ها همچنین در قالب یک پرونده امنیتی مطرح شده که توسط دادستان کل نیومکزیکو مطرح شده است. دادگاه این پرونده قرار است اوایل ماه آینده آغاز شود؛ وکلای متا تلاش کرده‌اند تا شهادت مرتبط با چت‌بات‌های هوش مصنوعی شرکت را خارج کنند، گزارش وایرد در این هفته منتشر شد.