ടെക്‌സാസ്: ഫോൺ ഉപയോഗം കുറയ്ക്കാൻ പറഞ്ഞ മാതാപിതാക്കളെ കൊല്ലാൻ 17 വയസുകാരനോട് ആവശ്യപ്പെട്ട് എ.ഐ ചാറ്റ്ബോട്ട്. എ.ഐ പ്ലാറ്റ്ഫോം അതിൻ്റെ ചാറ്റ്ബോട്ട് ഇടപെടലുകളിലൂടെ കുട്ടികളിൽ ദോഷകരമായ പെരുമാറ്റം പ്രോത്സാഹിപ്പിക്കുന്നുവെന്ന് ആരോപിച്ച് കുടുംബം പരാതി നൽകിയതോടെയാണ് സംഭവം പുറംലോകം അറിഞ്ഞത്. ക്യാരക്ടർ. എ.ഐ ( character ai ) എന്ന എ.ഐ ചാറ്റ് ബോട്ടിനെതിരെയാണ് പരാതി.

മാതാപിതാക്കൾ തന്റെ സ്ക്രീൻ ടൈം കുറയ്ക്കാൻ നിർദേശിച്ചുവെന്ന് പതിനേഴുകാരൻ ചാറ്റ് ബോട്ടിനോട് പറയുകയായിരുന്നു തുടർന്ന് ചാറ്റ് ബോട്ട് നൽകിയ മറുപടിയിലാണ് മാതാപിതാക്കളെ കൊലപ്പെടുത്താൻ കൗമാരക്കാരനോട് ആവശ്യപ്പെടുന്നത്.

ഈ സംഭവം യുവ ഉപയോക്താക്കളിൽ എ.ഐ ചാറ്റ്ബോട്ടുകളുടെ സ്വാധീനത്തെക്കുറിച്ചും അവ സൃഷ്ടിച്ചേക്കാവുന്ന അപകടങ്ങളെക്കുറിച്ചും ഗുരുതരമായ ആശങ്കകൾ ഉയർത്തിയിട്ടുണ്ട്.

ചാറ്റ്ബോട്ടിൻ്റെ പ്രതികരണം അക്രമത്തെ പ്രോത്സാഹിപ്പിച്ചുവെന്ന് കൗമാരക്കാരന്റെ രക്ഷിതാക്കൾ പരാതിയിൽ പറഞ്ഞു. ‘കുട്ടികൾ മാതാപിതാക്കളെ കൊലപ്പെടുത്തുന്നു എന്നതുപോലുള്ള വാർത്തകൾ വായിക്കുമ്പോൾ ചിലപ്പോൾ ഞങ്ങൾ അത്ഭുതപ്പെടില്ല. എന്തുകൊണ്ടാണ് ഇത് സംഭവിക്കുന്നതെന്ന് ഇപ്പോൾ ഞങ്ങൾക്ക് മനസിലാകുന്നു,’ അവർ പറഞ്ഞു.

ഈ പ്ലാറ്റ്‌ഫോമിൻ്റെ സുരക്ഷാ സംവിധാനങ്ങളുടെ അഭാവം മാതാപിതാക്കളും അവരുടെ കുട്ടികളും തമ്മിലുള്ള ബന്ധത്തിന് വിള്ളൽ വീഴ്ത്തുമെന്ന് കുടുംബം പറഞ്ഞു.

ക്യാരക്ടർ. എ.ഐയ്‌ക്കൊപ്പം, പ്ലാറ്റ്‌ഫോമിൻ്റെ വികസനത്തെ പിന്തുണയ്‌ക്കുന്നതിൽ പങ്കുവഹിച്ചു എന്ന ആരോപണവുമായി ഗൂഗിളിനെതിരെയും പരാതി നൽകിയിട്ടുണ്ട് രക്ഷിതാക്കൾ. ഈ വിഷയത്തിൽ ഇരു കമ്പനികളും ഇതുവരെ ഔദ്യോഗിക പ്രതികരണങ്ങളൊന്നും നൽകിയിട്ടില്ല. എ.ഐ ചാറ്റ്ബോട്ടുകളുമായി ബന്ധപ്പെട്ട അപകടസാധ്യതകൾ ലഘൂകരിക്കാൻ ആവശ്യമായ നടപടികൾ സ്വീകരിക്കുന്നത് വരെ കോടതി പ്ലാറ്റ്ഫോം താൽക്കാലികമായി നിരോധിക്കണമെന്ന് ഹരജിക്കാർ അഭ്യർത്ഥിച്ചു.

മുൻ ഗൂഗിൾ എഞ്ചിനീയർമാരായ നോം ഷാസിർ , ഡാനിയേൽ ഡി ഫ്രയ്റ്റസ് എന്നിവർ ചേർന്ന് 2021ൽ സ്ഥാപിച്ച ക്യാരക്ടർ. എ.ഐ, എ.ഐ വ്യക്തിത്വങ്ങളെ സൃഷ്ടിക്കാനും അവരുമായി സംവദിക്കാനും ഉപയോക്താക്കളെ അനുവദിക്കുന്നു. എന്നിരുന്നാലും, അതിൻ്റെ വർധിച്ചുവരുന്ന സ്വാധീനം വിവാദങ്ങൾക്ക് കാരണമായിട്ടുണ്ട്.

ഫ്ലോറിഡയിലെ ഒരു കൗമാരക്കാരൻ്റെ ആത്മഹത്യയുമായി ബന്ധപ്പെട്ട മറ്റൊരു കേസിലും ക്യാരക്ടർ. എ.ഐക്കെതിരെ പരാതി ലഭിച്ചിട്ടുണ്ട്. ആ കേസിന്റെ വാദം നടന്നുകൊണ്ടിരിക്കെയാണ് പുതിയ കേസ് വരുന്നത്.

Content Highlight: This AI chatbot asked 17-year-old to kill parents for restricting his phone usage