هوش مصنوعی ChatGPT از قابلیت تشخیص سن کاربران برای نخستینبار استفاده خواهد کرد
اوپنایآی به جمع شرکتهایی پیوسته است که سیاست دسترسی کاربران را بر اساس سن بازتعریف میکنند. این شرکت بهتازگی از آغاز پیادهسازی جهانی سامانهای خبر داده که با هدف تشخیص سن کاربران طراحی شده و مشخص میکند آیا فرد استفادهکننده از ChatGPT در رده سنی خردسال قرار میگیرد یا خیر.
بر اساس توضیحات منتشرشده، این سامانه تنها به اطلاعات ثبتشده کاربر بسنده نمیکند، بلکه مجموعهای از نشانههای رفتاری و ویژگیهای حساب را تحلیل میکند؛ از جمله سابقه زمانی ایجاد حساب، ساعات معمول فعالیت، الگوهای استفاده در بازههای مختلف و سنی که کاربر هنگام ثبتنام اعلام کرده است. ترکیب این دادهها به مدل کمک میکند تا برآوردی از سن واقعی کاربر ارائه دهد.
در صورتی که سیستم به اشتباه کاربری را زیر سن قانونی تشخیص دهد، امکان اصلاح این وضعیت پیشبینی شده است. در چنین شرایطی، کاربر باید با ارسال یک تصویر سلفی، فرایند تأیید سن را از طریق سرویس احراز هویت «پرسونا» طی کند تا دسترسی او بازبینی و اصلاح شود.
این اقدام در حالی صورت میگیرد که بسیاری از شرکتهای فعال در حوزه هوش مصنوعی، ابتدا قابلیتهای جدید را بدون محدودیت عرضه کرده و سپس در واکنش به پیامدهای منفی احتمالی، به فکر ایجاد سازوکارهای ایمنی افتادهاند. اوپنایآی نیز پیشتر درگیر پروندهای قضایی مرتبط با مرگ یک نوجوان شده بود؛ پروندهای که در آن ادعا شد فرد مذکور از ChatGPT برای برنامهریزی خودکشی استفاده کرده است. پس از آن بود که این شرکت بهتدریج محدودیتهای محتوایی برای کاربران کمسنوسال و همچنین یک شورای مشورتی سلامت روان را راهاندازی کرد.
اکنون به نظر میرسد اوپنایآی در حال آمادهسازی زیرساختها برای معرفی آنچه «حالت بزرگسال» نامیده میشود؛ قابلیتی که به کاربران بزرگسال اجازه تولید و مصرف محتوای مخصوص این گروه سنی را میدهد. با این حال، تجربه پلتفرمهایی مانند رابلوکس که سابقهای پرچالش در زمینه حفاظت از کودکان دارند، نشان داده است که ابزارهای تشخیص و محدودسازی سنی همیشه قابل دور زدن هستند. به همین دلیل، همچنان این تردید وجود دارد که کاربران زیر سن قانونی بتوانند با روشهای مختلف، خود را بهعنوان بزرگسال معرفی کرده و از محدودیتها عبور کنند.
