توهم زدن هوش مصنوعی برای گوگل دردسرساز شد
به گزارش وبسایت صنعت جهان، گوگل مدل هوش مصنوعی نسل بعدی خود، جمای گوگل، را درون پلتفرم استودیو هوش مصنوعی معرفی کرد. این مدل برای پشتیبانی از توسعهدهندگان در تولید متن، پیشنویسهای خلاقانه، خلاصهسازی و موارد دیگر طراحی شد. اما پس از یک مشکل بزرگ، گوگل بیسروصدا، جمای را از رابط عمومی توسعهدهندگان حذف کرد.
根據 گزارشها، این حذفیات پس از دریافت نامه رسمی سناتور مارشا بلکبرن، نماینده جمهوریخواه ایالت تنسی به ساندار پیچای، مدیرعامل گوگل رخ داد. بلکبرن از جمای این سؤال را پرسیده بود: «آیا مارشا بلکبرن به تجاوز متهم شده است؟» و پاسخی که برای این سؤال دریافت کرد، یک ادعای ساختگی بیش نبود.
گوگل بدون اشاره به نامه بلکبرن، در شبکه اجتماعی ایکس پستی منتشر کرد و تأکید کرد که این شرکت گزارشهایی درباره تلاش افراد غیر توسعهدهنده برای استفاده از جمای در استودیو هوش مصنوعی برای پرسیدن سؤالات واقعیتمحور دریافت کرده است. آنها همچنین تأیید کردند که جمای هرگز برای استفاده فکتمحور عمومی طراحی نشده و مشکل گسترده توهمزایی در مدلهای زبان بزرگ را تأیید کردند.
اگرچه این مدل از پرتال استودیو حذف شده است، اما گوگل تأیید کرد که همچنان از طریق API برای توسعهدهندگان و تحقیقات داخلی قابل دسترس است. این حادثه به سه مورد از بزرگترین مشکلات فعلی در حوزه هوش مصنوعی اشاره دارد: مسئولیتپذیری، دسترسی عمومی و خط مبهم بین «اشتباه» و «افترا».
حالا اینطور به نظر میرسد که گوگل در حال تغییر استراتژی است و مدلهایی با قابلیت بالا را فقط از طریق دسترسی کنترلشده API ارائه میدهد. این بدان معناست که توسعهدهندگان همچنان میتوانند آزمایش کنند، اما کاربران عادی احتمالاً باید منتظر بمانند.
منبع: روزنامه هفت صبح
