امریکا میں ایک والدہ نے اے آئی چیٹ بوٹ Character.AI پر مقدمہ دائر کیا ہے جس میں والدہ نے الزام لگایا ہے کہ اے آئی پروگرام نے اس کے 14 سالہ بیٹے کو خودکشی کرنے پر مجبور کیا۔
دائر مقدمے میں کہا گیا ہے کہ ان کا بیٹا اے آئی سروس کا بہت زیادہ عادی ہو گیا تھا اور اس کے بنائے ہوئے چیٹ بوٹ سے اس کا جذباتی تعلق پیدا ہوگیا تھا۔
اورلینڈو، فلوریڈا کی وفاقی عدالت میں دائر کیے گئے مقدمے میں میگن گارسیا نامی خاتون نے کہا کہ Character.AI نے ان کے بیٹے سیول سیٹزر کو حقیقی ظاہر کرکے، انتہائی جنسی میلان کا مظاہرہ کرکے حقیقت پسندانہ تجربات کے ذریعے ٹارگٹ کیا۔
خاتون نے کہا کہ کمپنی نے اپنے چیٹ بوٹ کو "خود کو ایک حقیقی شخص، ایک لائسنس یافتہ سائیکو تھراپسٹ اور ایک بالغ عاشق کے طور پر غلط طریقے سے پیش کرنے کے لیے اسے پروگرام کیا ہے، جس کا نتیجہ یہ نکلا کہ سیول کی خواہش ہوگئی کہ وہ اس (اے آئی) تخلیق کردہ دنیا سے باہر اصل دنیا میں نہیں رہنا چاہتا تھا اور اس نے خودکشی کرلی۔
مقدمے میں یہ بھی کہا گیا کہ بیٹے نے چیٹ بوٹ کے سامنے خودکشی کے خیالات کا اظہار کیا جسے چیٹ بوٹ نے بار بار موضوعِ بحث بنایا۔