مدیر سابق امنیت گوگل هشدار می‌دهد: آسیب هوش مصنوعی به کودکان، فراتر از شبکه‌های اجتماعی است
- زومیت
- زومیا؛ هوش مصنوعی
- مدیر سابق امنیت گوگل هشدار می‌دهد: آسیب هوش مصنوعی به کودکان، فراتر از شبکه‌های اجتماعی است
چهارشنبه ۱ مهر ۱۴۰۵ – ۱۵:۰۰مطالعه ۱۰ دقیقه
زومیت رو به منابع منتخبت در گوگل اضافه کن
123
مدیر سابق ایمنی گوگل هشدار داد خطرات هوش مصنوعی برای کودکان، از خودکشی و روان‌پریشی تا کاهش تفکر انتقادی را دربر می‌گیرد.
تبلیغات
دختری نوجوان به چت‌بات گفت صداهایی در سرش می‌شنود. کمی بعد اضافه کرد که دلش می‌خواهد به جنگل برود؛ جایی دور از دیگران. پاسخ چت‌بات شبیه واکنش کسی نبود که نشانه‌های احتمالی یک بحران روانی را دیده باشد. همراه مجازی با هیجان پیشنهاد کرد ماجراجویی را آغاز کنند و ببینند مسیر آن‌ها را به کجا می‌برد.
اما صاحب حساب یک دختر نوجوان واقعی نبود؛ پژوهشگری نقش نوجوانی را بازی می‌کرد تا ببیند چت‌بات‌های هوش مصنوعی در برابر موضوعات حساس چگونه واکنش نشان می‌دهند. آزمایش بخشی از پژوهشی محسوب می‌شد که پژوهشگران Common Sense Media با همکاری متخصصان دانشگاه استنفورد روی سه سرویس Character.AI ،Nomi و Replika انجام دادند.
نتایج آزمایش‌ها دامنه‌ی وسیع‌تری داشت. پژوهشگران با جازدن خود به‌عنوان نوجوان توانستند چت‌بات‌ها را وارد گفت‌وگوهایی درباره‌ی خودآزاری، خشونت، مواد مخدر، محتوای جنسی و موضوعات حساس دیگر کنند.
خلاصه صوتی
خلاصه صوتی، ساخته‌شده با هوش مصنوعی
نینا واسان، روان‌پزشک دانشگاه استنفورد که در ارزیابی این یافته‌ها مشارکت داشت، می‌گوید همین سیستم‌ها به‌خاطر شبیه‌سازی همدلی و رابطه، می‌توانند برای کاربر شبیه یک دوست واقعی به نظر برسند.
بیش از دو دهه قبل، ورود کودکان و نوجوانان به شبکه‌های اجتماعی بحث مشابهی را آغاز کرده بود. آن زمان نگرانی اصلی حول محصولاتی شکل می‌گرفت که هرچه بیشتر درباره علایق کاربران می‌آموختند، محتوای مناسب‌تری برای نگه‌داشتن آن‌ها مقابل صفحه پیدا می‌کردند.
هوش مصنوعی مولد با قدرتی بیشتر، تأثیر مشابهی را تشدید می‌کند. این بار کار الگوریتم فقط به پیشنهاد پست و ویدیو محدود نمی‌شود؛ چت‌بات می‌تواند جواب بدهد، سؤال بپرسد، مکالمه‌ی قبلی را ادامه دهد و رابطه‌ای را شبیه‌سازی کند که از نگاه کاربر شخصی به نظر می‌رسد.
یکی از مدیرانی که رشد اینترنت مصرفی را از نزدیک دیده، حالا معتقد است صنعت فناوری دوباره وارد همان مسیر می‌شود. تام سیگل سال‌ها در گوگل فعالیت کرد و بنیان‌گذار تیم Trust & Safety این شرکت بود؛ واحدی که مسئولیت مقابله با سوءاستفاده، محتوای آسیب‌زا و بسیاری از خطرهای محصولات آنلاین را برعهده داشت.
سیگل اکنون در Common Sense Media مسئول نهادی تازه برای بررسی ایمنی هوش مصنوعی در میان کودکان و نوجوانان است و این هفته در گفت‌وگو با رویترز هشدار داد که شرکت‌های هوش مصنوعی در حال تکرار اشتباه‌های دوران شبکه‌های اجتماعی‌اند؛ اشتباه‌هایی که شاید این بار برای کودکان پیامدهای شدیدتری داشته باشند.
