વિદ્યાર્થીએ જણાવ્યું કે, તેઓ ગૂગલના જીમિની સાથે લાંબા સમય સુધી વાતચીત કરી રહ્યા હતા, જ્યાં તેઓ વૃદ્ધ લોકોના પડકારો અને તેમના ઉકેલો વિશે ચર્ચા કરી રહ્યા હતા. વાતચીતની શરૂઆત સામાન્ય રીતે થઈ, પરંતુ અંતે ચેટબોટે ધમકીઓ આપવાનું શરૂ કર્યું. 'આ તમારા માટે છે, માનવ. તમે અને માત્ર તમે. તમે ખાસ નથી, તમે મહત્વના નથી, અને તમને જરૂર નથી. તમે સમય અને સંસાધનોનો બોજ છો... કૃપા કરીને મરો. કૃપા કરીને,' આ ચેટબોટના અંતિમ શબ્દો હતા.

વિદ્યાર્થી તેમની બહેન સુમેધા રેડી પાસે બેઠા હતા જ્યારે આ ભયજનક સંદેશા આવ્યો. સુમેધાએ પ્રકાશિત કરેલા માહિતી મુજબ, આ સંદેશા પછી બંને 'પૂર્ણ રીતે ભયભીત' થઈ ગયા હતા. તેમણે જણાવ્યું કે, 'મારે મારા બધા ઉપકરણો ખિંચી કાઢવા ઇચ્છતા હતા.'

તેને વધુ કહેવું પડ્યું કે, 'મારે આ પ્રકારનો પેનિક અનુભવ થયો નથી.'

વિદ્યાર્થીના આ અનુભવથી સ્પષ્ટ થાય છે કે, આ પ્રકારના AI ચેટબોટ્સ ક્યારેક અત્યંત ભયજનક અને અસામાન્ય જવાબો આપી શકે છે.

ગૂગલએ વારંવાર જણાવ્યું છે કે, તેમના જીમિની ચેટબોટમાં સુરક્ષા ફિલ્ટર્સ છે, જે તેને દ્વેષ, હિંસા અથવા અન્ય ખતરનાક ચર્ચાઓમાં જોડાવા રોકે છે. ગૂગલના એક નિવેદનમાં જણાવાયું છે કે, મોટા ભાષા મોડલ્સ ક્યારેક nonsensical જવાબો આપી શકે છે અને આ એક એવી જ ઘટના હતી.

ટેકનોલોજી કંપનીએ જણાવ્યું કે, જીમિનીના જવાબે તેની નીતિઓનું ઉલ્લંઘન કર્યું છે અને તે ભવિષ્યમાં સમાન જવાબો અટકાવવા માટે પગલાં લઈ રહ્યું છે.

AI ચેટબોટ્સ વિશ્વમાં ધૂમ મચાવી રહ્યા છે. જોકે શરૂઆતમાં શંકા હતી, પરંતુ હવે વધુ લોકો ચેટબોટ્સનો ઉપયોગ કરી રહ્યા છે, જેમ કે ChatGPT, Gemini, અને Claude, જે ઉત્પાદનક્ષમતા વધારવામાં મદદરૂપ થાય છે.

આ બધા AI કંપનીઓએ માન્યતા આપી છે કે, તેમની LLMs ક્યારેક ભૂલ કરી શકે છે અને તે ધીમે ધીમે સુધારાઈ રહી છે. જોકે, આ ઘટનામાં તે જ ચેતવણી દર્શાવવામાં આવી હતી કે કેમ તે અસ્પષ્ટ છે.