زبان کدگذاری شده با آلفا ، ارعاب آنلاین را دشوار می کند

ژارگون اینترنت نسل آلفا سریعتر از معلمان ، والدین و مدل های هوش مصنوعی می توانند دنبال کنند – به طور بالقوه جوانان را در معرض ارعاب و نظافت قرار می دهد که بزرگسالان اعتماد و سیستم های امنیتی مبتنی بر IA به سادگی نمی توانند ببینند.

Manisha Mehta ، یک دانش آموز 14 ساله در مدرسه واسطه وارن هید در کوپرتینو ، کالیفرنیا ، و فاستو جیوچلیا در دانشگاه ترنتو ، ایتالیا ، 100 بیان و جمله محبوب از Generation Alpha – کسانی که بین سالهای 2010 تا 2025 متولد شده اند – سیستم عامل های محبوب بازی ، اجتماعی و ویدیویی را گرد هم آورده است.

این زوج سپس از 24 داوطلب 11 تا 14 ساله ، که همکلاسی از Mehta بودند ، خواستند تا جملات را در کنار تصاویر خاص برای متن تجزیه و تحلیل کنند. داوطلبان توضیح دادند که آیا این جملات را شامل می شوند ، در چه زمینه ای از آنها استفاده شده است و آیا این استفاده مشکلات امنیتی بالقوه یا تفسیرهای مضر را به همراه دارد. آنها همچنین از والدین ، ​​ناظران حرفه ای و چهار مدل AI – GPT -4 ، Claude ، Gemini و Llama 3 خواسته اند تا همین کار را انجام دهند.

مهتا توضیح می دهد: “من همیشه کمی مجذوب زبان ژنرال آلفا بوده ام ، زیرا بسیار منحصر به فرد است ، نحوه ارتباط اوضاع و از دست دادن خیلی سریع ، و خیلی سریع است.”

در بین داوطلبان نسل آلفا ، 98 ٪ معنای اساسی این اصطلاحات را درک می کردند ، 96 ٪ زمینه ای را که در آن استفاده می شد درک می کردند و 92 ٪ می توانند هنگام اعزام به آسیب ، تشخیص دهند. اما مدل های هوش مصنوعی فقط در 4 مورد از 10 مورد استفاده مضر را تشخیص دادند – از 32.5 ٪ برای Llama 3 تا 42.3 ٪ توسط کلود. والدین و ناظران حرفه ای بهتر نبودند و فقط حدود یک سوم کاربردهای مضر را شناسایی کردند.

مهتا می گوید: “من انتظار کمی بیشتر از آنچه پیدا کردیم انتظار داشتم.” “این عمدتا فرضیات در کنار والدین بود.”

عباراتی که معمولاً توسط Generation Alpha استفاده می شود شامل برخی از آنها است که با توجه به متن آنها معنای مضاعف دارند. “اجازه دهید آن را بپزید” می تواند در یک بازی بازی ستایش واقعی باشد – یا یک ضربه محکم و ناگهانی مسخره دلالت بر اینکه کسی در مورد مزخرفات صحبت می کند. “Kys” ، زمانی که یک “شما را می شناسم” ، اکنون برخی را به عنوان “شما می کشید” می خواند. جمله دیگری که می تواند یک هدف سوءاستفاده را پنهان کند ، “آیا آن را آکوستیک” است ، که در صورتی که کسی اوتیسم باشد ، به طرز مسخره ای درخواست می کرد.

مهتا می گوید: “ژنرال آلفا به صورت آنلاین بسیار آسیب پذیر است.” “من فکر می کنم واقعاً ضروری است که LLM حداقل بتواند آنچه را که گفته می شود درک کند ، زیرا هوش مصنوعی در زمینه اعتدال محتوا ، بیشتر و بیشتر در آینده خواهد بود.”

Giunchiglia توضیح می دهد: “بسیار واضح است که LLM جهان را تغییر می دهد.” “این واقعاً پارادایم است. فکر می کنم سؤالات اساسی برای پرسیدن وجود دارد.”

نتایج این هفته در انجمن انجمن ماشین آلات محاسباتی در مورد حقوق صاحبان سهام ، مسئولیت و شفافیت در آتن ، یونان ارائه شد.

“از نظر تجربی ، این کار نشان می دهد که احتمالاً شکاف بزرگی در سیستم های اعتدال محتوا برای تجزیه و تحلیل و محافظت از جوانترین به طور خاص است.” مایکل وایل در دانشگاه کالج در لندن. “شرکت ها و تنظیم کننده ها احتمالاً باید توجه ویژه ای داشته باشند و به این امر واکنش نشان دهند تا در تعداد فزاینده ای از حوزه های قضایی با قوانین سکو با هدف حمایت از جوانان ، بالاتر از قانون بمانند.”

سوژه ها: