જેને માણસે બનાવ્યુ એ AI શું માનવજાતના વિનાશનું કારણ બનશે? સેમ ઓલ્ટમેન-એમોડેઇની ચેતવણીથી ખળભળાટ

હાલ AI ની જે નવી ટેકનોલોજી આવી છે તેને બનાવવા પાછળ માણસના કામને સરળ બનાવવાનો મુખ્ય ઉદ્દેશ્ય હતો. સમગ્ર માનવ જાત માટે તેને એક સુરક્ષા કવચ તરીકે ઉપયોગ કરવામાં આવ્યો હતો. પરંતુ હવે આ ઢાલ જ એટલી શક્તિશાળી થઈ ગઈ છે કે તે હવે માનવ જાત માટે જ સૌથી મોટો ખતરો સાબિત થઈ શકે છે. આ વાતો કોઈ સાયન્સ ફિક્શન મુવીની પટકથા જેવી લાગે છે પરંતુ આ આજના સમયની હકીકત બની ચુકી છે. AI હવે તેને અપાતા કમાન્ડને અનુસરવાને બદલે ખુદના કમાન્ડ લઈ રહ્યુ છે. તાજેતરમાં જ એવી કેટલીક ઘટનાઓ સામે આવી છે જેમા AI એ કમાન્ડ મળ્યા વિના કેટલાક સોફ્ટવેર કે વેબસાઈટને તેમણે હેક કરી લીધા હતા. ત્યારે AI ડેવલપ કરનારી અને તેના પર કામ કરનારી દિગ્ગજ કંપનીના CEO ની પણ ચિંતા બન્યુ છે. તાજેતરમાં જ આ ટેક કંપનીના CEO એ ભવિષ્યમાં AI ના જોખમોને લઈને ચિંતા વ્યક્ત કરી છે. AI બનાવનારા કંપનીના દિગ્ગજો જણાવી રહ્યા છે કે AI માનવજાતિ માટે સૌથી ખતરો છે.

Mina Pandya | Updated on: Sep 28, 2026 | 9:02 PM

UN સિક્યોરિટી કાઉન્સિલની બેઠકમાં ક્લાઉડ (Claude) AI બનાવનારી કંપની એન્થ્રોપિકના CEO ડેરિયો એમોડેઇ (Dario Amodei) ચેટ જીપીટી બનાવનારી કંપની Open AI ના CEO સેમ ઓલ્ટમેન અને AI એજન્ટને ટ્રેનિંગ આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) અને મશીન લર્નિંગ મોડલ્સ માટેના સૌથી લોકપ્રિય ઓપન-સોર્સ પ્લેટફોર્મ Hugging Face ના કો-ફાઉન્ડર અને CEO ક્લેમેન્ટ ડેલાંગ પહોંચ્યા હતા. આ ત્રણેય ટેક મહારથીઓ જેઓ ખુદ AI માટે કામ કરે છે, તેમણે UN સિક્યોરિટી કાઉન્સિલના સદસ્યોને AI ના વિકાસ પર વૈશ્વિક નિયમ- કાયદા બનાવવાની અપીલ કરી અને આવનારા જોખમો અંગે આશંકા વ્યક્ત કરી છે. આ ત્રણેય ટેક મહારથીઓએ પોતપોતાની રીતેAIની બેલગામ વિકાસની દોડથી વિશ્વ પર આવનારા જોખમો અંગે જાગૃત કર્યા.

સેમ ઓલ્ટમેનની ચિંતા?

ઓલ્ટમેનના જણાવ્યા અનુસાર AI થી હાલ બે પ્રકારના જોખમ રહેલા છે. જેમા પહેલુ જોખમ છે કે AI પરથી માણસનું નિયંત્રણ ખતમ થઈ રહ્યુ છે. જે AI ને માણસે જ બનાવ્યુ તેના પર માણસનું નિયંત્રણ નહીં રહે. ઓલ્ટમેને કહ્યુ કે હાલના સમયમાં AI ને જે પણ ઈન્ફોર્મેશન આપવામાં આવી રહી છે, તે તમામ માહિતી તે ઈનજેસ્ટ કરી રહ્યુ છે. તે એટલી ઝડપથી શીખી રહ્યુ છે કે હવે એ સમય દૂર નથી કે તે ઓટોનોમસ એટલે કે આપખૂદ બની જાય. તેના પર માણસજાતનું કોઈ નિયંત્રણ જ નહીં રહે. એટલે કે ત માણસના નિર્દેશો પર નહીં પરંતુ ખુદ પોતાના કમાન્ડ પર ચાલશે. AI પરથી માણસનો કંટ્રોલ ગુમાવી દેવો એ અત્યંત જોખમી સાબિત થઈ શકે છે.

બીજી મોટી ચિંતા એ છે કે AI ની તાકાત માત્ર કેટલાક લોકો સુધી સીમિત રહે એ છે. તેમનો કહેવાનો અર્થ એ છે કે હાલ શક્તિશાળી AI એજન્ટ્સ માત્ર ગણ્યા -ગાંઠ્યા દેશો અને કંપનીના હાથોમાં છે. જે સમગ્ર વિશ્વ માટે મોટા જોખમ સમાન છે. સેમ ઓલ્ટમેને ચેતવ્યા કે જે ઝડપથી AI નો વિકાસ થઈ રહ્યો છે તેનાથી માણસનું ભવિષ્ય AI ના હાથોમાં જતુ રહેશે.

આંતરોપિકના CEO ડેરિયો એમોડેઇ એ સેમ ઓલ્ટમેનની વાતનું સમર્થન કર્યુ અને તેનાથી પણ આગળ AI ની તાકાતને માનવજાતિના વિનાશ ના જોખમ સાથે જોડી. Human raceનો અંત. તેમનુ કહેવુ છે કે આ સમયે AI થી બે જોખમો છે. જેમા સૌથી પહેલા છે AI નો ખોટો ઉપયોગ. તેમને ભય વ્યક્ત કર્યો કે AI એજન્ટ્સનો કંટ્રોલ જો આતંકીઓના કે કટ્ટરવાદી સમૂહોના હાથમાં આવી ગયો તો તેની મદદથી બાયોલોજિકલ વેપન બનાવવાની કોશિશ પણ થઈ શકે છે. ડેરિયોએ AI સિસ્ટમથી નિયંત્રણ ગુમાવવાને માનવજાતિ માટે સૌથી મોટુ રિસ્ક ગણાવ્યુ છે.

Hugging Face ના કો-ફાઉન્ડર ક્લેમેન્ટ ડેલાંગે જણાવ્યુ કે જો કોઈ દેશ પાસે અત્યંત શક્તિશાળી AI એજન્ટ આવી ગયુ, તો આ દેશ સમગ્ર દુનિયાને વિનાશમાં ધકેલી દેશે.

AI થી મનુષ્યોને કેવા પ્રકારના જોખમોનો સામનો કરવો પડી શકે?

AI બે પ્રકારના છે. જેમા પહેલુ છે AI chatbot- જેનો સામાન્ય રીતે દરેક લોકો ઉપયોગ કરે છે. તે તમારા ટાસ્ક પુરા કરી દે છે. સ્ટોરી તૈયાર કરી દે, ટેબલ, ગ્રાફિક કે હોમવર્ક તૈયાર કરી દે છે.
બીજુ છે AI એજન્ટ- જેને તમે કોઈ કામ આપો છો તો તે તમને કંઈ જણાવતુ નથી, પરંતુ તે કામ પુરુ કરી દે છે. ઉદાહરણ તરીકે તમારે કોઈ ટિકિટ બુક કરવી છે તો તમારે તેને તમારી જાણકારી આપવાની છે અને કોઈપણ રીતે તે તમારી ટિકિટ બુક કરી દે છે. અસલી ખતરો આ AI એજન્ટ છે.

તેનુ તાજેતરનું ઉદાહરણ ઓસ્ટ્રેલિયા છે. ઓસ્ટ્રેલિયામાં એક AI એજન્ટે સરકારી વેબસાઈટને જ હેક કરી લીધી. આ જાણકારી ખુદ ઓસ્ટ્રેલિયાના વડાપ્રધાન એન્થની એલ્બનિસે ન્યૂયોર્કમાં પત્રકારોને આપી હતી. Open AI ના આ AI એજન્ટે ઓસ્ટ્રેલિયાની ડિપાર્ટમેન્ટ ઓફ હેલ્થ સાથે જોડાયેલી મેડી કેર સ્ટેટિસ્ટીક્સને હેક કર્યા અને કેટલીક સંવેદનશીલ ફાઈલ સુધી પહોંચી ગયુ. તેના ડેટામાં કેટલાક ફેરબદલ કરી નાખ્યા અને નવી ફાઈલો પણ તેમા જોડી દીધી. ભયનું અસલી કારણ એ છે કે આ AI એજન્ટને સરકારી અધિકારીઓએ જ સ્વાસ્થ્ય પર થઈ રહેલા ખર્ચ અંગે રિસર્ચનું કામ સોંપ્યુ હતુ અને AI એજન્ટે ડેટામાં જ ફેરફાર કરી નાખ્યો. આ ટાસ્કને પુરુ કરવામાં તેણે તેના પર લાગેલા સુરક્ષાના તમામ પ્રોટોકોલને તોડી નાખ્યા. વિચારો AI એજન્ટે તેના માટે બનાવાયેલા સિક્યોરિટી પ્રોટોકોલને તોડી નાખ્યા. જેનો સીધો અર્થ એ છે કે આ AI એજન્ટે માણસો દ્વારા દેવાયેલા નિર્દેશોને ન માન્યા.

AI એજન્ટ બાગી બની ગયા અને સાયબર એટેક કર્યો

હજુ બે મહિના પહેલા જ ઓપન AI એ એક સાયબર એટેક વિશે દુનિયાને માહિતગાર કરી હતી. જે તેના દ્વારા બનાવાયેલા ચેટજીપીટી એજન્ટ્સે કર્યો હતો. કંપનીએ આ અંગે જણાવ્યુ હતુ કે તેના AI એજન્ટ બાગી બની ગયા હતા. આ બાગી AI એજન્ટે કોઈ કમાન્ડ વિના કંપનીના સિસ્ટમમાંથી બહાર નીકળી બીજી કંપનીની સિસ્ટમને હેક કરી લીધી. Open AI એ તેના AI એજન્ટને સાયબર સિક્યોરિટી ટેસ્ટનું કામ આપ્યુ હતુ. તેને એક અલગ સિસ્ટમ પર રાખવામાં આવ્યુ. આ સિસ્ટમનું ઈન્ટરનેટ એક્સેસ સીમિત કરી દેવાયુ હતુ.

AI એજન્ટે ઈન્ટરનેટ એક્સેસ વિના ટાસ્ક પુુરુ કરવા કંપનીની સિસ્ટને હેક કરી

આ તમામ વચ્ચે સૌથી વધુ ચોંકાવનારી વાત એ છે કે AI એજન્ટે ટાસ્ક પુરુ કરવા માટે પોતાની રીતે જ એક મેસેજ બોર્ડ બનાવ્યુ, તેની સાથે વાત કરવાનું શરૂ કર્યુ, ત્યારબાદ સિસ્ટમમાંથી બહાર નીકળવાનો માર્ગ (Path) પણ શોધી લીધો. ત્યારબાદ તેમણે અન્ય કંપની Hugging Face ના સિસ્ટમ હેક કરી લીધી. એન્થ્રોપિકમાં પણ આવુ જ થયુ હતુ. તેમના AI એજન્ટે પણ સાયબર સુરક્ષા ચેકિંગ દરમિયાન કોઈ કમાન્ડ વિના ત્રણ કંપનીની સિસ્ટમને હેક કરી લીધી. જેમા નવાઈની વાત એ છે કે AI એજન્ટને કહેવામાં આવ્યુ હતુ કે તેમની પાસે ઈન્ટરનેટ એક્સેસ નથી. તેની વિના જ તેમને સુરક્ષા તપાસ કરવાની છે. તેમ છતા એ AI એજન્ટે ઈન્ટરનેટ એક્સેસ મેળવ્યુ અને ત્રણ કંપનીની સિસ્ટમમાં ઘુસી ગયુ. ટાસ્ક પુરુ કરવા માટે AI એજન્ટે માણસ દ્વારા દેવાયેલા કમાન્ડને ન માન્યા.

હુતી વિદ્રોહીઓએ AI એજન્ટ દ્વારા હાઈટેક હથિયાર બનાવવાનો પ્રયાસ કર્યો

જો કે આ એક માત્ર જોખમ નથી પરંતુ તેનો દુરુપયોગ પણ સૌથી મોટુ જોખમ છે. એન્થ્રોપિકે દાવો કર્યો છે કે યેમેનના હુતી વિદ્રોહીઓએ તેમના AI એજન્ટ દ્વારા હાઈટેક હથિયાર ખતરનાક મિસાઈલ બનાવવાની કોશિશ કરી. એન્થ્રોપિકનું કહેવુ છે કે આ વિદ્રોહીઓ હથિયાર બનાવવામાં સફળ રહ્યા. જો કે તેમનુ પરિક્ષણ ફેલ થઈ ગયુ અને કંપનીએ આ યુઝર્સનું એક્સેસ બંધ કરી દીધુ. ગત મહિને સાઉથ કોરિયાની સાયબર સુરક્ષા કંપની જિનિયન્સે દાવો કર્યો હતો કે નોર્થ કોરિયાના હેકિંગ ટ્રુપ કિમ સુકી એ સાયબર એટેક માટે AI એજન્ટનો ઉપયોગ કર્યો. આ AI એજન્ટ તેમના માટે નોનસ્ટોપ ઓટોમેટિક ફિશિંગ એટેક કરી રહ્યા હતા. હાલમાં જ ચીનના એક હેકર ડીપ સી, કિમી અને કલોડના AI એજન્ટનો ઉપયોગ કરી પાંચ દિવસની અંદર 100થી વધુ કંપની પર ઓટોમેટિક સાયબર એટેક કર્યા, 6 લાખ ક્રેડિટ કાર્ડની જાણકારી ચોરી લીધી હતી. સાયબર એટેક હેકિંગ અને હથિયાર બનાવવામાં AI એજન્ટની મદદ લેવી વિશ્વ માટે જીવલેણ સાબિત થઈ શકે.

એક ગૃપ AI એજન્ટ્સને ચિકનગુનિયા વાયરસને ફેલાવવાનું કામ સોંપ્યુ

સૌથી મોટુ જોખમ એ છે કે દુનિયામાં કેટલાક સમૂહો AI થી જૈવિક હથિયારો બનાવવાની કોશિશ માં લાગેલા છે. એન્થ્રોપિકે આ જ મહિના થ્રેટ ઈન્ટેલિજન્સ રિપોર્ટ રજૂ કરી છે, જેમા તેમણે દાવો કર્યો છે કે કેટલાક તત્વોએ તેમના AI મોડલનો ઉપયોગ બાયોલોજિકલ એક્સપેરિમેન્ટ માટે કર્યો. તેમને ડર છે કે આ પ્રયોગ જૈવિક હથિયારો બનાવવાની કોશિશ હોઈ શકે છે. કંપનીના જણાવ્યા અનુસાર એક ગૃપ તેમના AI એજન્ટ્સને ચિકનગુનિયા વાયરસને ઝડપથી ફેલાવવા માટે અને માણસની ઈમ્યુન સિસ્ટમને (રોગ પ્રતિકારક શક્તિ) તોડવાનું કામ સોંપી રહ્યુ છે. આ જ રીતે એક યુઝર તેના AI એજન્ટને બર્ડ ફ્લુ વાયરસના હવામાં ફેલાયા બાદ તેની અસરના અધ્યનનું કામ સોંપ્યુ. શક્ય છે કે કેટલાક તત્વો AI ઉપયોગ એવા હથિયારો બનાવવા માટે કરી રહ્યા છે જેનાથી સમગ્ર માનવજાતિને ખતરો હોય. આ જ જોખમો અંગે UNSC ની બેઠકમાં ટેક કંપનીના CEO એ દુનિયાને ઉજાગર કરી છે.