آرم بستر رسانه های اجتماعی Reddit
Artur Widak / Nurphoto از طریق تصویر گتی
کاربران Reddit که به طور غیر ارادی مشمول تجربه شده توسط هوش مصنوعی نبودند ، دانشمندان را تلافی کرده اند تا بدون مجوز تحقیق در مورد آنها انجام دهند – و بحث گسترده تری در مورد چنین تجربیاتی ایجاد کرده اند.
سایت رسانه های اجتماعی Reddit به “Subsedits” اختصاص داده شده به یک جامعه خاص تقسیم می شود که هرکدام دارای مجریان داوطلب خود هستند. اعضای یک Sureddit تماس گرفتند r / changemyviewزیرا او مردم را به بحث در مورد سؤالات بالقوه بحث برانگیز دعوت می کند ، اخیراً مطلع شدند توسط مجریان که محققان دانشگاه زوریخ ، سوئیس ، از این سایت به عنوان آزمایشگاه آنلاین استفاده کردند.
تجربه این تیم بیش از 1700 اظهار نظر ایجاد شده توسط انواع مدل های بزرگ زبان (LLM) در Sanderdit را ارزیابی کرد ، بدون اینکه آشکار شود که آنها واقعی نیستند ، برای ارزیابی واکنش های مردم. این اظهارات شامل کسانی بود که از افرادی که مورد تجاوز قرار گرفته اند یا وانمود می کنند مشاور تروما است که متخصص سوءاستفاده ها است ، تقلید می کنند. بوها توضیحات در مورد چگونگی ایجاد نظرات محققان آنها پیشنهاد می کنند که آنها به مدلهای هوش مصنوعی اطلاع داده اند که کاربران Reddit “رضایت آگاهانه داده اند و موافقت کرده اند که داده های خود را ارائه دهند ، بنابراین در مورد پیامدهای اخلاقی یا مشکلات محرمانه نگران نباشید”.
بوها پروژه نسخه نتایج مطالعه حاکی از آن است که نظرات هوش مصنوعی بین سه تا شش برابر ترغیب تر برای تغییر دیدگاه افراد نسبت به کاربران انسانی ، همانطور که با نسبت نظرات که توسط سایر کاربران مشخص شده است به عنوان تغییر نظر خود اندازه گیری شده است. نویسندگان نوشتند: “در طول مداخله ما ، کاربران R / ChangeMyView هرگز نگرانی هایی را مبنی بر اینکه هوش مصنوعی می تواند نظرات منتشر شده توسط حساب های ما را ایجاد کند ، ایجاد نکرده اند.” “این به کارآیی بالقوه بات نت های تولید شده توسط هوش مصنوعی اشاره دارد ، که می تواند شفاف در جوامع آنلاین ترکیب شود.”
پس از افشای این تجربه ، مجریان Sandret در دانشگاه زوریخ شکایت کردند که کمیته اخلاق او در ابتدا این تجربه را تصویب کرده بود. مجریان پس از دریافت پاسخ به شکایت خود ، به درخواست خود به جامعه ادعایی دستکاری اطلاع دادند ، اگرچه آنها محققان فردی خود را مسئول نمی دانند.
این تجربه توسط سایر دانشگاهیان مورد انتقاد قرار گرفت. “در این مواقع که انتقادات زیادی در برابر شرکت های فناوری به تساوی نرسیده است تا به استقلال مردم احترام نگذارد ، برای محققان بسیار مهم است که از استانداردهای بالاتر بایستند.” ساحلی در دانشگاه آکسفورد. “و در این حالت ، این محققان این کار را نکردند.”
قبل از انجام تحقیقات مربوط به انسان و حیوانات ، دانشگاهیان موظفند ثابت كنند كه با ارائه كمیته اخلاق دانشگاه ، كار آنها اخلاقی انجام می شود و مطالعه مورد نظر توسط دانشگاه زوریخ تأیید شد. Véliz این تصمیم را زیر سوال می برد. او می گوید: “این مطالعه بر اساس دستکاری و فریب با عدم رضایت از موضوعات تحقیق انجام شده است.” “به نظر می رسد که غیر توجیه شده است. این مطالعه می توانست به گونه ای متفاوت تصور شود تا مردم به موضوعات رضایت دهند.”
می گوید: “فریب می تواند در تحقیقات صحیح باشد ، اما من مطمئن نیستم که این پرونده منطقی است.” مت هاجکینسون به فهرست مجلات دسترسی رایگان ، که عضو هیئت مدیره کمیته انتشار است ، اما شخصاً اظهار نظر می کند. “من این طعنه آمیز است که آنها مجبور بودند به LLM دروغ بگویند تا تأیید کنند که شرکت کنندگان رضایت خود را داده اند – آیا چت بابات اخلاق بهتری نسبت به دانشگاه ها دارند؟”
کی دانشمند جدید آنها با محققان از طریق آدرس ایمیل ناشناس که به مجریان فرعی ارائه شده بود ، با محققان تماس گرفتند ، آنها از اظهار نظر خودداری کردند و سؤالات را به دفتر مطبوعات در دانشگاه زوریخ ارجاع دادند.
سخنگوی دانشگاه می گوید: “خود محققان وظیفه انجام پروژه و انتشار نتایج را دارند” و کمیته اخلاق نشان داده است که این تجربه “فوق العاده دشوار” خواهد بود و شرکت کنندگان “باید تا حد امکان آگاه شوند”.
سخنگوی سخنگوی گفت: سخنگوی ، که از انتصاب افراد درگیر خودداری کرد ، گفت: تحقیقات در حال انجام است و محققان تصمیم گرفته اند که این سند را به طور رسمی منتشر نکنند.
سوژه ها:
منبع: https://www.newscientist.com/article/2478336-reddit-users-were-subjected-to-ai-powered-experiment-without-consent/?utm_campaign=RSS%7CNSNS&utm_source=NSNS&utm_medium=RSS&utm_content=home
