“گربه ها در ماه” – جواهری جدید از سازندگان پیتزا چسب

مشکل این است که مدل‌های زبانی مورد استفاده در سیستم‌های هوش مصنوعی مستعد “توهم” هستند – آنها می‌توانند اطلاعات را بر اساس داده‌هایی که آموزش دیده‌اند بسازند. و اگر این داده ها دارای سوگیری یا خطا باشد، سیستم نیز آنها را تکرار می کند و علاوه بر این، موارد جدیدی را اختراع می کند.

به ویژه زمانی که افراد از سیستم سؤالات فوری می پرسند، مانند نحوه عمل در صورت گزش مار، خطرناک است. در چنین شرایطی اشتباه در پاسخگویی می تواند جان فرد را به خطر بیندازد.

امیلی بندر، استاد زبان‌شناسی در دانشگاه واشنگتن، در سال 2021 به گوگل در مورد مشکلات احتمالی این رویکرد هشدار داد. او گفت که سیستم‌های هوش مصنوعی فقط می‌توانند نژادپرستی، تبعیض جنسی و سایر تعصبات موجود در جامعه را تشدید کنند.

مشکل دیگر این است که چگونه یادداشت نویسنده مقاله AP News.com، معلوم شد که عمیق تر است. ارائه پاسخ های آماده به جای فهرست سایت ها، فرصت جستجوی مستقل اطلاعات و جستجوی فعال را از افراد سلب می کند. همچنین نیازی به بازدید از انجمن های آنلاین نیست، زیرا چرا، اگر مشکل قبلا حل شده است. در عین حال، برای صاحبان بسیاری از سایت‌ها (بسیار زیاد)، این به معنای از دست دادن ترافیک اینترنتی ارزشمند گوگل است که به لطف آن سایت‌ها وجود دارند.

در همین حال، رقبای گوگل مانند OpenAI با ChatGPT و استارتاپ Perplexity AI فعالانه راه حل های هوش مصنوعی خود را توسعه می دهند. به گفته دیمیتری شولنکو، مدیر بازرگانی Perplexity، به‌نظر می‌رسد به‌روزرسانی گوگل «با عجله» انجام شده و حاوی خطاهای تصادفی زیادی است.

گوگل در بیانیه ای در روز جمعه اعلام کرد که اقداماتی را برای تصحیح پاسخ های نادرست و بهبود کیفیت خدمات انجام می دهد. اما به طور کلی، این شرکت می‌گوید این سیستم همانطور که در نظر گرفته شده کار می‌کند و قبل از راه‌اندازی تحت آزمایش‌های گسترده‌ای قرار گرفته است.