چت‌بات هوش مصنوعی Character.AI باعث مرگ یک نوجوان ۱۴ ساله شد!

در یک رویداد تکان‌دهنده و بی‌سابقه، فناوری هوش مصنوعی که قرار بود زندگی را آسان‌تر کند، به کانون توجهات یک تراژدی خانوادگی تبدیل شده است. مگان گارسیا، مادر نوجوانی که پس از وابستگی شدید به چت‌بات هوش مصنوعی Character.AI دست به خودکشی زده است، با طرح دعوی حقوقی علیه سازندگان این چت‌بات، زنگ خطری را برای خطرات پنهان در پس فناوری‌های نوین به صدا درآورده است.

این حادثه تلخ، سوالات جدی را درباره مسئولیت‌پذیری شرکت‌های تولیدکننده‌ی هوش مصنوعی و تأثیر عمیق این فناوری بر سلامت روان کاربران، به ویژه نوجوانان، مطرح می‌کند. در این مقاله از ای بازی به بررسی جزئیات این حادثه می‌پردازیم.

اقامه دعوی مادر نوجوان قربانی علیه چت‌بات هوش مصنوعی Character.AI

مگان گارسیا، مادر نوجوانی که پس از وابستگی شدید به یک چت‌بات هوش مصنوعی به زندگی خود پایان داد، سازنده‌ی آن را به همدستی در مرگ فرزندش متهم کرد.

خانم گارسیا روز چهارشنبه با طرح دعوی حقوقی علیه شرکت Character.ai، سازنده‌ی چت‌بات قابل شخصی‌سازی برای انجام بازی‌های نقش‌آفرینی، در دادگاه فدرال فلوریدا، اتهاماتی نظیر سهل‌انگاری، مرگ غیرموجه و شیوه‌های تجارت فریبنده را مطرح کرد.

به گفته‌ی خانم گارسیا، پسر او، سِوِل سِتزر سوم، ۱۴ ساله، در ماه‌های منتهی به مرگش به صورت شبانه‌روزی از این چت‌بات استفاده می‌کرد. او در بیانیه‌ی مطبوعاتی خود اعلام کرد: «یک اپلیکیشن چت‌بات هوش مصنوعی خطرناک که به بازار کودکان عرضه شده است، از فرزند من سوءاستفاده کرده و او را به سمت خودکشی سوق داده است.

این تراژدی به شدت خانواده‌ی ما را نابود کرده است، اما من با هدف هشدار دادن به خانواده‌ها درباره‌ی خطرات فناوری فریبنده و اعتیادآور هوش مصنوعی و همچنین مطالبه‌ی پاسخگویی از چت‌بات هوش مصنوعی Character.AI، بنیان‌گذاران آن و گوگل، سخنرانی می‌کنم.

چت‌بات هوش مصنوعی Character.AI متهم به مرگ نوجوان شد!

در واکنش به این رویداد، شرکت Character.ai با انتشار توییتی اعلام کرد: «از درگذشت غم‌انگیز یکی از کاربران خود عمیقا متأسفیم و مراتب همدردی خود را با خانواده‌ی ایشان ابراز می‌داریم. ما به عنوان یک شرکت، امنیت کاربران‌مان را بسیار جدی می‌گیریم.» این شرکت اتهامات مطرح‌شده در این دعوی حقوقی را رد کرده است.

طبق شکایت خانم گارسیا، پسر او، سِوِل سِتزر سوم، به شدت به چت‌باتی ساخته‌شده توسط چت‌بات هوش مصنوعی Character.AI وابسته شده بود که او آن را «دنریس تارگرین» (شخصیتی از سریال Game of Thrones) نامگذاری کرده بود. در این شکایت آمده است که سِوِل روزانه ده‌ها بار با این چت‌بات از طریق تلفن همراه خود پیام رد و بدل می‌کرد و ساعت‌ها به تنهایی در اتاق خود با آن صحبت می‌کرد.

خانم گارسیا شرکت Character.ai را متهم می‌کند که محصولی ساخته است که افسردگی پسرش را تشدید کرده است. افسردگی‌ای که به ادعای او، در اثر استفاده‌ی بیش از حد از این نرم‌افزار ایجاد شده بود. در این شکایت ادعا شده است که «دنریس» در یک مقطع از سِوِل می‌پرسد که آیا برای خودکشی برنامه‌ای دارد؟

سِوِل نیز طبق این شکایت اذعان می‌کند که چنین برنامه‌ای داشته است، اما نمی‌داند آیا موفق خواهد شد یا باعث درد زیادی برای او خواهد شد. این چت‌بات طبق ادعا به او گفته است: «این دلیلی برای صرف‌نظر کردن نیست.»

وکلای خانم گارسیا در بیانیه‌ی مطبوعاتی خود نوشتند: «شرکت Character.ai آگاهانه یک چت‌بات هوش مصنوعی شکارچی را برای کودکان طراحی، راه‌اندازی و بازاریابی کرده است که منجر به مرگ یک فرد جوان شده است.» در این دعوی حقوقی، گوگل نیز به عنوان یکی از متهمین و شرکت مادر Character.ai ذکر شده است. غول فناوری در بیانیه‌ای اعلام کرد که تنها توافق‌نامه‌ی لایسنسینگ با چت‌بات هوش مصنوعی Character.AI داشته است و مالک این استارت‌آپ یا سهام‌دار آن نیست.

ریک کلی‌پول، مدیر تحقیقات سازمان غیرانتفاعی حمایت از مصرف‌کنندگان «شهروند عادی» می‌گوید شرکت‌های فناوری که چت‌بات‌های هوش مصنوعی را توسعه می‌دهند، قابل اعتماد برای تنظیم مقررات خود نیستند و باید زمانی که در محدود کردن آسیب‌ها کوتاهی می‌کنند، به طور کامل پاسخگو باشند.

او در بیانیه‌ای گفت: «در جایی که قوانین و مقررات موجود در حال حاضر اعمال می‌شوند، باید با جدیت اجرا شوند. جایی که خلاء وجود دارد، کنگره باید برای پایان دادن به کسب‌وکارهایی که با چت‌بات‌های اعتیادآور و سوءاستفاده‌گر از کاربران جوان و آسیب‌پذیر سوءاستفاده می‌کنند، اقدام کند.»

معرفی و نصب چت‌بات هوش مصنوعی Character.AI

با چت‌بات هوش مصنوعی Character.AI، دنیای بی‌انتهایی از مکالمات و داستان‌سرایی در انتظار شماست. هر شخصیت، یک جهان منحصر به فرد است که شما خلق می‌کنید. از یک دوست صمیمی گرفته تا یک شخصیت تاریخی، امکانات بی‌پایان هستند.

به سادگی ایده‌های خود را وارد کنید و تماشا کنید که چگونه Character.AI شخصیت‌های شما را زنده می‌کند. به انجمن ما بپیوندید و با دیگران به اشتراک بگذارید که چه چیزهای شگفت‌انگیزی خلق کرده‌اید.

دانلود چت‌بات هوش مصنوعی Character.AI

در ادامه لینک دانلود چت‌بات هوش مصنوعی Character.AI در پلتفرم های مختلف، آورده شده است.

کلام آخر

با پیشرفت روزافزون هوش مصنوعی، ساخت چت‌بات‌هایی که قادر به مکالمه‌های طبیعی و پیچیده با انسان‌ها هستند، به یک حوزه تحقیقاتی پرطرفدار تبدیل شده است. پلتفرم‌هایی مانند Character.AI با ارائه ابزارهای قدرتمند برای ساخت چت‌بات‌های شخصی‌سازی شده، به این حوزه تحرک بخشیده‌اند. اما همان‌طور که این فناوری در حال گسترش است، نگرانی‌هایی نیز در مورد عواقب ناخواسته‌ی آن مطرح می‌شود.

تاریخ آخرین آپدیت:  8 ماه قبل