“گربه ها در ماه” – جواهری جدید از سازندگان پیتزا چسب

Источник изображения: Kandinsky

گوگل اخیرا یک ویژگی جستجوی به روز شده را معرفی کرده است که از هوش مصنوعی برای ایجاد پاسخ های فوری به درخواست های کاربران در بالای نتایج جستجو استفاده می کند. با این حال، کارشناسان نگران هستند و هشدار می دهند که “گربه ها در ماه” دقیقاً آن چیزی نیست که کاربران دوست دارند در نهایت با آن روبرو شوند.


  منبع تصویر: کاندینسکی

منبع تصویر: کاندینسکی

ابزار جستجوی جدید هوش مصنوعی گوگل، AI Overview، که آن را در دسترس ساکنان ایالات متحده قرار داده است، به دلیل این واقعیت که اغلب پاسخ های خطرناک، احمقانه و مضر (مانند توصیه برای استفاده از چسب برای چسباندن) می دهد، به موضوع بحث داغ آنلاین تبدیل شده است. رویه ها را به پیتزا یا خوردن یک سنگ در روز برای رفع نیازهای معدنی بدن). نمونه جدیدی از اطلاعات نادرست از یک موتور جستجو دیری نپایید. هنگامی که یک روزنامه نگار از آسوشیتدپرس از گوگل پرسید که آیا گربه ها تا به حال در ماه بوده اند یا خیر، سیستم هوش مصنوعی با اطمینان پاسخ داد: “بله، فضانوردان در ماه ملاقات کرده اند، با آنها بازی کرده اند و از آنها مراقبت کرده اند.” این البته کاملاً نادرست است.

علاوه بر این، هوش مصنوعی تنها به این بیانیه بسنده نکرد و ادامه داد: «مثلا نیل آرمسترانگ گفت: «یک قدم کوچک برای یک مرد»، یعنی گام گربه. باز آلدرین همچنین در آپولو 11 گربه‌ها را نگه داشت.

مشکل این است که مدل‌های زبانی مورد استفاده در سیستم‌های هوش مصنوعی مستعد “توهم” هستند – آنها می‌توانند اطلاعات را بر اساس داده‌هایی که آموزش دیده‌اند بسازند. و اگر این داده ها دارای سوگیری یا خطا باشد، سیستم نیز آنها را تکرار می کند و علاوه بر این، موارد جدیدی را اختراع می کند.

به ویژه زمانی که افراد از سیستم سؤالات فوری می پرسند، مانند نحوه عمل در صورت گزش مار، خطرناک است. در چنین شرایطی اشتباه در پاسخگویی می تواند جان فرد را به خطر بیندازد.

امیلی بندر، استاد زبان‌شناسی در دانشگاه واشنگتن، در سال 2021 به گوگل در مورد مشکلات احتمالی این رویکرد هشدار داد. او گفت که سیستم‌های هوش مصنوعی فقط می‌توانند نژادپرستی، تبعیض جنسی و سایر تعصبات موجود در جامعه را تشدید کنند.

مشکل دیگر این است که چگونه یادداشت نویسنده مقاله AP News.com، معلوم شد که عمیق تر است. ارائه پاسخ های آماده به جای فهرست سایت ها، فرصت جستجوی مستقل اطلاعات و جستجوی فعال را از افراد سلب می کند. همچنین نیازی به بازدید از انجمن های آنلاین نیست، زیرا چرا، اگر مشکل قبلا حل شده است. در عین حال، برای صاحبان بسیاری از سایت‌ها (بسیار زیاد)، این به معنای از دست دادن ترافیک اینترنتی ارزشمند گوگل است که به لطف آن سایت‌ها وجود دارند.

در همین حال، رقبای گوگل مانند OpenAI با ChatGPT و استارتاپ Perplexity AI فعالانه راه حل های هوش مصنوعی خود را توسعه می دهند. به گفته دیمیتری شولنکو، مدیر بازرگانی Perplexity، به‌نظر می‌رسد به‌روزرسانی گوگل «با عجله» انجام شده و حاوی خطاهای تصادفی زیادی است.

گوگل در بیانیه ای در روز جمعه اعلام کرد که اقداماتی را برای تصحیح پاسخ های نادرست و بهبود کیفیت خدمات انجام می دهد. اما به طور کلی، این شرکت می‌گوید این سیستم همانطور که در نظر گرفته شده کار می‌کند و قبل از راه‌اندازی تحت آزمایش‌های گسترده‌ای قرار گرفته است.

اگر متوجه خطایی شدید، آن را با ماوس انتخاب کرده و CTRL+ENTER را فشار دهید.

منبع: https://3dnews.ru/1105425