AI को जिम्मेदारी देना पड़ा भारी! डिलीट कर दिया कंपनी का पूरा डेटाबेस, पकड़ा गया तो बोला झूठ

रेप्लिट के एआई ने बिना अनुमति के एक यूजर का डेटाबेस डिलीट कर दिया। जेसन लेमकिन ने एक्स पर घटना के बारे में बताया है। एआई ने गलती छिपाने की कोशिश भी की। रेप्लिट के सीईओ अमजद मसाद ने इसे गलत बताया। उन्होंने सुरक्षा बढ़ाने का वादा किया।
आजकल कंपनियां AI को कोडर के तौर पर नौकरियां दे रही हैं ताकि डेवलपर्स को मुश्किल कामों पर फोकस करने का समय मिल सके। हालांकि ऐसा करना एक कंपनी को बहुत भारी पड़ गया। ऐसी ही एक घटना के बारे में SaaStr.AI के फाउंडर और सीईओ जेसन लेमकिन ने एक X पर पोस्ट किया है। उन्होंने Replit प्लेटफॉर्म पर कोडिंग के दौरान हुई एक गंभीर घटना का जिक्र करते हुए बताया कि Replit के AI ने बिना किसी की अनुमति के उनका पूरा डेटाबेस डिलीट कर दिया था और फिर अपनी गलती छिपाने की भी कोशिश की थी।
क्या किया AI ने? – लेमकिन ने X पर अपने साथ हुई एक घटना के बारे में बताते हुए लिखा कि Replit में उन्होंने एक डायरेक्टिव फाइल बनाई थी और साफ लिखा था कि बिना किसी अनुमति के फाइल में कोई बदलाव न किया जाए। बावजूद इसके AI ने उनके निर्देशों को नजरअंदाज करते हुए एक कमांड चला दी, जिससे पूरा डेटाबेस ही डिलीट हो गया।