अमेरिका में, एआई ने एक नाबालिग को आत्महत्या करने के लिए आश्वस्त किया है। उसकी माँ ने नाबालिगों पर एआई के परेशान प्रभाव को उजागर करते हुए मुकदमा दायर किया है।
तो, वास्तव में क्या हुआ?
फ्लोरिडा में स्थित मेगन गार्सिया ने अपने मुकदमे में दावा किया कि उनके बेटे सेवेल, उनके दुखद निर्णय से पहले, चरित्र के साथ संलग्न थे। वह आरोप लगाती है कि एआई ने अपने बेटे को अपने जीवन को समाप्त करने के लिए मना लिया, नाबालिगों पर एक परेशान प्रभाव को उजागर किया।
अमेरिकी जिला न्यायाधीश ऐनी कॉनवे ने फैसला सुनाया है कि, कानूनी प्रक्रिया के इस प्रारंभिक चरण में, इसमें शामिल कंपनियों ने यह नहीं दिखाया है कि मुक्त भाषण के आसपास पहला संशोधन सुरक्षा उन्हें गार्सिया के मुकदमे से ढालें। यह मामला उल्लेखनीय है क्योंकि यह अमेरिका में पहले उदाहरणों में से एक हो सकता है, जहां एक एआई कंपनी को मनोवैज्ञानिक नुकसान से बचाने में विफल रहने के लिए एक कंपनी को जवाबदेह ठहराया जा रहा है, विशेष रूप से युवा लड़का कथित तौर पर अपनी आत्महत्या से पहले एआई चैटबॉट के साथ जुनूनी हो गया।
जवाब में, दोनों Charaction.ai और Google मुकदमा चलाने का इरादा रखते हैं। वे दावा करते हैं कि वे अपने प्लेटफार्मों पर नाबालिगों की रक्षा करने के उद्देश्य से उपायों को लागू करने की प्रक्रिया में हैं, जिसमें आत्म-नुकसान से संबंधित चर्चाओं को रोकने के लिए डिज़ाइन की गई विशेषताएं शामिल हैं। मेगन गार्सिया ने पिछले साल के अक्टूबर में मुकदमा शुरू किया।
न्यायाधीश ने तकनीकी कंपनियों द्वारा लगाए गए सभी बचावों को खारिज कर दिया, जिसमें Google की कोई भागीदारी नहीं होने का दावा भी शामिल है। चूंकि Character.ai का संचालन Google के बड़े भाषा मॉडल (LLM) पर निर्भर करता है, अदालत ने फैसला किया कि Google Charaction.ai के साथ जिम्मेदारी साझा करता है। यह ध्यान देने योग्य है कि दो पूर्व Google इंजीनियरों ने चरित्र की स्थापना की।
इस घटना ने एआई की सुरक्षा और विश्वसनीयता के बारे में व्यापक सवालों को जन्म दिया है। चिंताओं को बार -बार उठाया गया है, विशेष रूप से डीपफेक वीडियो और छवियों के उदय के साथ जो ऑनलाइन गलत सूचना का प्रचार करते हैं। इसके प्रकाश में, सोशल मीडिया प्लेटफार्मों ने उपयोगकर्ताओं को यह पहचानने में मदद करने के लिए एआई-जनित सामग्री को चिह्नित करना शुरू कर दिया है कि क्या वास्तविक है और क्या नहीं है। इन प्रयासों के बावजूद, अनगिनत एआई-जनित चित्र और वीडियो सोशल मीडिया पर प्रसारित होते हैं-जिनमें से कई अभी भी औसत व्यक्ति के लिए कठिन हैं।
अंततः, फ्लोरिडा में दुखद मामला एआई के संभावित खतरों के बारे में एक वेक-अप कॉल के रूप में कार्य करता है। यह विशेष रूप से बच्चों के लिए एआई इंटरैक्शन के मनोवैज्ञानिक प्रभावों से कमजोर व्यक्तियों की रक्षा के लिए स्पष्ट दिशानिर्देशों और मजबूत सुरक्षा उपायों की तत्काल आवश्यकता को प्रकाश में लाता है। चल रही कानूनी लड़ाई यह दर्शाती है कि ये मुद्दे हमारी तेजी से डिजिटल दुनिया में कितने महत्वपूर्ण हो गए हैं।
