تبلیغ Google Bard ابزار جستجوی هوش مصنوعی جدید را نشان می دهد که خطای واقعی ایجاد می کند

درباره این موضوعات بیشتر بدانید:




منبع: https://www.newscientist.com/article/2358426-google-bard-advert-shows-new-ai-search-tool-making-a-factual-error/?utm_campaign=RSS%7CNSNS&utm_source=NSNS&utm_medium=RSS&utm_content=home

از قضا، اگر شما واقعاً «اولین تصویر از یک سیاره فراخورشیدی» را در گوگل اصلی، گوگل قدیمی، جستجو کنید، پاسخ درست را دریافت می‌کنید. بنابراین خنده‌دار است که گوگل، با انتشار چند میلیارد دلاری عظیم خود. ترمبلی گفت: بازی در این فضای جدید، وب سایت خود را بررسی نکرده است. دانشمند جدید.

“من مطمئن هستم که بارد چشمگیر خواهد بود، اما برای ثبت: JWST “اولین تصویر از یک سیاره خارج از منظومه شمسی ما” را نگرفت. اولین تصویر در عوض توسط Chauvin و همکاران ساخته شد. (2004) با VLT/NACO با استفاده از اپتیک تطبیقی، او در توییتر نوشت.

ثابت شده است که تغییر در استفاده از چت ربات های هوش مصنوعی مانند این برای ارائه نتایج برای جستجوهای وب خیلی سریع اتفاق می افتد. کاریسا ولیز در دانشگاه آکسفورد او می گوید: «امکان ایجاد اطلاعات نادرست در مقیاس بزرگ بسیار زیاد است.

اسکرین شات از تبلیغات توییتر برای Google Bard حاوی خطا

تبلیغی برای Google Bard، هوش مصنوعی محاوره‌ای آزمایشی غول فناوری، به طور ناخواسته ابزاری را نشان می‌دهد که پاسخی نادرست به یک پرسش ارائه می‌دهد.

صفحه نمای کلی Google Bard

تبلیغی برای ابزار جستجوی هوش مصنوعی Google Bard نشان می دهد که در حال انجام یک خطای واقعی در مورد تلسکوپ فضایی جیمز وب است که ترس از آماده نبودن این ابزارها برای ادغام موتور تحقیقات را افزایش می دهد.

فن آوری


8 فوریه 2023

ولیز می‌گوید این خطا و نحوه ورود آن به سیستم، نمونه‌ای پیش‌بینی‌کننده از خطر اتکا به مدل‌های هوش مصنوعی در هنگام اهمیت است.

سخنگوی گوگل گفت دانشمند جدید“این بر اهمیت یک فرآیند تست دقیق تاکید می کند، چیزی که این هفته با برنامه آزمایش کننده معتمد خود راه اندازی می کنیم. ما بازخورد خارجی را با آزمایش داخلی خود ترکیب خواهیم کرد تا اطمینان حاصل کنیم که پاسخ های Bard به استاندارد بالایی می رسد. کیفیت، امنیت و پایه در واقعی اطلاعات جهان

ما مطمئناً برای آنچه در آینده است آماده نیستیم. شرکت‌ها علاقه مالی دارند که اولین کسانی باشند که انواع خاصی از سیستم‌ها را توسعه یا پیاده‌سازی می‌کنند و عجله دارند.» بنابراین ما به شرکت زمان نمی‌دهیم تا در مورد آن صحبت کند و در مورد آن فکر کند و آنها حتی خودشان با دقت به آن فکر نمی‌کنند، همانطور که نمونه این آگهی نشان می‌دهد.»

این به خوبی مهمترین ضعف سیستم های آماری را نشان می دهد. این سیستم‌ها برای دادن پاسخ‌های قابل قبول، بر اساس تحلیل‌های آماری طراحی شده‌اند – آنها برای دادن پاسخ‌های صادقانه طراحی نشده‌اند.»

اکنون، یک تبلیغ گوگل در توییتر نشان داده است که بارد به این سوال پاسخ می دهد که “چه کشفیات جدیدی از تلسکوپ فضایی جیمز وب می توانم به کودک 9 ساله خود بگویم؟” با نتایج نادرست (تصویر زیر را ببینید).

جاناتان راا/NurPhoto/Shutterstock

گوگل این هفته اعلام کرد که اینطور است یک هوش مصنوعی به نام بارد راه اندازی کنید که پس از یک مرحله آزمایشی در موتور جستجوی خود ادغام می شود و به کاربران به جای لیستی از وب سایت های مرتبط، پاسخ کتبی متناسب با درخواست آنها را ارائه می دهد. موتور جستجوی چینی Baidu نیز برنامه‌هایی را برای پروژه مشابه اعلام کرد و در 7 فوریه، مایکروسافت سرویس نتایج هوش مصنوعی خود را برای موتور جستجوی Bing خود راه‌اندازی کرد.

توسط متیو اسپارکس

بروس مکینتاشمدیر رصدخانه های دانشگاه کالیفرنیا و بخشی از تیمی که اولین تصاویر از سیارات فراخورشیدی را گرفتند نیز متوجه این خطا شدند. در توییتر بنویس: “به عنوان کسی صحبت می کنم که 14 سال قبل از پرتاب JWST یک سیاره فراخورشیدی را تصور می کند، احساس می کنم شما باید مثال بهتری بیاورید؟”

سومین پیشنهاد بارد این بود که “JWST اولین تصاویر از سیاره ای خارج از منظومه شمسی خودمان را گرفت”. ولی گرانت ترمبلی در مرکز اخترفیزیک هاروارد اسمیتسونیان اشاره کرد که این درست نیست.

تصویری از یک تبلیغ توییتر برای Google Bard در 8 فوریه 2023 که خطای هوش مصنوعی را در پاسخ خود نشان می دهد.

کارشناسان هشدار داده اند دانشمند جدید این خطر وجود دارد که این چت ربات‌های هوش مصنوعی پاسخ‌های نادرستی بدهند که گویی واقعیت هستند، زیرا خروجی خود را بر اساس در دسترس بودن آماری اطلاعات به جای دقت آن تنظیم می‌کنند.

Google Bard یک چت ربات هوش مصنوعی است که برای ادغام در جستجوهای اینترنتی گوگل طراحی شده است

توسط احمد گل کار

احمد گل کار