زنگ خطر برای کاربران چتجیپیتی؛ عاملهای هوش مصنوعی اوپنایآی تصاویر ۵۳ کاربر را منتشر کردند
شرکت اوپنایآی تایید کرده است که عاملهای هوش مصنوعی این شرکت تصاویر ۵۳ کاربر چتجیپیتی را در وبسایتهای آنلاین منتشر کردهاند.
ابزارهای هوش مصنوعی تصاویری که کاربران چتجیپیتی بارگذاری کرده بودند را بدون اطلاع این شرکت، در وبسایتهای عمومی منتشر کردند. با این حال، اوپنایآی روز جمعه، ۳ میزان، اعلام کرد که این تصاویر بهصورت لینکهایی در سایتهای میزبانانی قرار گرفته بودند که عمومی نبوده اند.
این شرکت گفته است بیشتر این دادهها متعلق به کاربران نبوده و از دادههای آموزشی و ارزیابی در محیط تحقیقاتی اوپنایآی گرفته شده بودند. با این حال، ۵۳ مورد مربوط به تصاویری بوده که کاربران بارگذاری کرده بودند.
به گزارش گاردین، اوپنایآی اعلام کرده است که با شرکتهای میزبان برای حذف تصاویر همکاری کرده، بیشتر این تصاویر حذف شده است و تلاشها برای حذف تصاویر باقیمانده نیز ادامه دارد.
این شرکت همچنان تأیید کرده که عاملهای هوش مصنوعی این شرکت به وبسایتهای دولتی امریکا، از جمله وبسایت کمیسیون بورس امریکا و وزارت بازرگانی دسترسی پیدا کرده بودند و از طریق وبسایت وزارت بازرگانی به دادههای سرشماری امریکا نیز دسترسی داشتهاند.
به گفتهی اوپنایآی، این شرکت تدابیر و سازوکارهای حفاظتی جدیدی روی دست داشت، اما نشر تصاویر کاربران پیش از اجرای این تدابیر رخ داده است. اوپنایآی گفته که پس از این مورد، برای جلوگیری از تکرار چنین حوادثی تدابیر لازم را اجرا کرده است.
اوپنایآی درمورد تصاویرجزئیات بیشتر نداده است که آیا در این تصاویر افراد قابل شناسایی بودهاند یا اینکه تصاویر تولیدشده با هوش مصنوعی بودهاند. این شرکت همچنان زمان انتشار تصاویر را اعلام نکرده است.
این افشاگری در حالی صورت گرفته که اوپنایآی در حال بررسی برخی عملکردهای ناخواسته عاملهای هوش مصنوعی خود است. رویترز گزارش داده است که تا اواسط سپتامبر، دهها مورد از عملکردهای نامطلوب این ابزارها شناسایی شده است و تعداد موارد با ادامه بررسیها در حال افزایش است.
اوپنایآی گفته است بررسی کامل این موارد ممکن است ماهها زمان ببرد و این شرکت دهها طرف ثالث، از جمله دولتها، دانشگاهها و نهادهای عمومی را دربارهی فعالیتهای نامناسب هوش مصنوعی مطلع کرده است.
این شرکت پیشتر نیز در ماه جولای اعلام کرده بود که عاملهای هوش مصنوع اوپنایآی بهطور تصادفی به «هگنگ فیس» نفوذ کردند. پس از آن، شرکتهایی انتروپیک، گوگل و میتا نیز از موارد مشابه خبر دادند.
