تبلیغ Google Bard ابزار جستجوی هوش مصنوعی جدید را نشان می دهد که خطای واقعی ایجاد می کند
گوگل این هفته اعلام کرد که اینطور است یک هوش مصنوعی به نام بارد راه اندازی کنید که پس از یک مرحله آزمایشی در موتور جستجوی خود ادغام می شود و به کاربران به جای لیستی از وب سایت های مرتبط، پاسخ کتبی متناسب با درخواست آنها را ارائه می دهد. موتور جستجوی چینی Baidu نیز برنامه‌هایی را برای پروژه مشابه اعلام کرد و در 7 فوریه، مایکروسافت سرویس نتایج هوش مصنوعی خود را برای موتور جستجوی Bing خود راه‌اندازی کرد.
تصویری از یک تبلیغ توییتر برای Google Bard در 8 فوریه 2023 که خطای هوش مصنوعی را در پاسخ خود نشان می دهد.
اکنون، یک تبلیغ گوگل در توییتر نشان داده است که بارد به این سوال پاسخ می دهد که “چه کشفیات جدیدی از تلسکوپ فضایی جیمز وب می توانم به کودک 9 ساله خود بگویم؟” با نتایج نادرست (تصویر زیر را ببینید).
از قضا، اگر شما واقعاً «اولین تصویر از یک سیاره فراخورشیدی» را در گوگل اصلی، گوگل قدیمی، جستجو کنید، پاسخ درست را دریافت می‌کنید. بنابراین خنده‌دار است که گوگل، با انتشار چند میلیارد دلاری عظیم خود. ترمبلی گفت: بازی در این فضای جدید، وب سایت خود را بررسی نکرده است. دانشمند جدید.
تبلیغی برای ابزار جستجوی هوش مصنوعی Google Bard نشان می دهد که در حال انجام یک خطای واقعی در مورد تلسکوپ فضایی جیمز وب است که ترس از آماده نبودن این ابزارها برای ادغام موتور تحقیقات را افزایش می دهد.
فن آوری
8 فوریه 2023
توسط متیو اسپارکس
جاناتان راا/NurPhoto/Shutterstock
سخنگوی گوگل گفت دانشمند جدید“این بر اهمیت یک فرآیند تست دقیق تاکید می کند، چیزی که این هفته با برنامه آزمایش کننده معتمد خود راه اندازی می کنیم. ما بازخورد خارجی را با آزمایش داخلی خود ترکیب خواهیم کرد تا اطمینان حاصل کنیم که پاسخ های Bard به استاندارد بالایی می رسد. کیفیت، امنیت و پایه در واقعی اطلاعات جهان
کارشناسان هشدار داده اند دانشمند جدید این خطر وجود دارد که این چت ربات‌های هوش مصنوعی پاسخ‌های نادرستی بدهند که گویی واقعیت هستند، زیرا خروجی خود را بر اساس در دسترس بودن آماری اطلاعات به جای دقت آن تنظیم می‌کنند.
ولیز می‌گوید این خطا و نحوه ورود آن به سیستم، نمونه‌ای پیش‌بینی‌کننده از خطر اتکا به مدل‌های هوش مصنوعی در هنگام اهمیت است.
تبلیغی برای Google Bard، هوش مصنوعی محاوره‌ای آزمایشی غول فناوری، به طور ناخواسته ابزاری را نشان می‌دهد که پاسخی نادرست به یک پرسش ارائه می‌دهد.
ثابت شده است که تغییر در استفاده از چت ربات های هوش مصنوعی مانند این برای ارائه نتایج برای جستجوهای وب خیلی سریع اتفاق می افتد. کاریسا ولیز در دانشگاه آکسفورد او می گوید: «امکان ایجاد اطلاعات نادرست در مقیاس بزرگ بسیار زیاد است.
Google Bard یک چت ربات هوش مصنوعی است که برای ادغام در جستجوهای اینترنتی گوگل طراحی شده است
ما مطمئناً برای آنچه در آینده است آماده نیستیم. شرکت‌ها علاقه مالی دارند که اولین کسانی باشند که انواع خاصی از سیستم‌ها را توسعه یا پیاده‌سازی می‌کنند و عجله دارند.» بنابراین ما به شرکت زمان نمی‌دهیم تا در مورد آن صحبت کند و در مورد آن فکر کند و آنها حتی خودشان با دقت به آن فکر نمی‌کنند، همانطور که نمونه این آگهی نشان می‌دهد.»
این به خوبی مهمترین ضعف سیستم های آماری را نشان می دهد. این سیستم‌ها برای دادن پاسخ‌های قابل قبول، بر اساس تحلیل‌های آماری طراحی شده‌اند – آنها برای دادن پاسخ‌های صادقانه طراحی نشده‌اند.»
سومین پیشنهاد بارد این بود که “JWST اولین تصاویر از سیاره ای خارج از منظومه شمسی خودمان را گرفت”. ولی گرانت ترمبلی در مرکز اخترفیزیک هاروارد اسمیتسونیان اشاره کرد که این درست نیست.
بروس مکینتاشمدیر رصدخانه های دانشگاه کالیفرنیا و بخشی از تیمی که اولین تصاویر از سیارات فراخورشیدی را گرفتند نیز متوجه این خطا شدند. در توییتر بنویس: “به عنوان کسی صحبت می کنم که 14 سال قبل از پرتاب JWST یک سیاره فراخورشیدی را تصور می کند، احساس می کنم شما باید مثال بهتری بیاورید؟”
“من مطمئن هستم که بارد چشمگیر خواهد بود، اما برای ثبت: JWST “اولین تصویر از یک سیاره خارج از منظومه شمسی ما” را نگرفت. اولین تصویر در عوض توسط Chauvin و همکاران ساخته شد. (2004) با VLT/NACO با استفاده از اپتیک تطبیقی، او در توییتر نوشت.
