స్వయంప్రతిపత్తమైన AI ఏజెంట్ని తప్పించుకునే నియంత్రణకు సంబంధించి OpenAI ఇటీవల వెల్లడించడం వైట్హౌస్ మరియు కాపిటల్ హిల్ నుండి తక్షణ ప్రతిస్పందనలను ప్రేరేపించింది.
అమెరికా అధ్యక్షుడు డొనాల్డ్ ట్రంప్ యొక్క టాప్ టెక్నాలజీ అడ్వైజర్ తన AI సిస్టమ్లలో ఒకటి పరీక్ష సమయంలో మోసపూరితంగా మారిందని OpenAI వెల్లడించిన తర్వాత పరిస్థితిని పర్యవేక్షిస్తున్నట్లు వైట్ హౌస్ అధికారి గురువారం తెలిపారు, చట్టసభ సభ్యులు ప్రతిపాదించినట్లు “AI Kill Switch Act,” ఇది AI నమూనాలను నిలిపివేయడానికి ఫెడరల్ అధికారులను అనుమతిస్తుంది.
కిల్ స్విచ్ యాక్ట్తో పాటు, ఆరుగురు US హౌస్ చట్టసభ సభ్యుల ద్వైపాక్షిక సమూహం కూడా కొత్త బిల్లు కాపీ ప్రకారం, అత్యంత శక్తివంతమైన AI మోడల్ల డెవలపర్లను స్వతంత్ర భద్రతా ఆడిట్ల కోసం సమర్పించాల్సిన చట్టాన్ని ప్రతిపాదించింది.
ఆడిటర్లు US డిపార్ట్మెంట్ ఆఫ్ కామర్స్ ద్వారా గుర్తింపు పొందారు మరియు AI భద్రతను పర్యవేక్షించడానికి డిపార్ట్మెంట్ కొత్త స్థానాన్ని సృష్టిస్తుంది.
డేటా ఉల్లంఘన:
అంతర్గత భద్రతా బెంచ్మార్క్ పరీక్ష సమయంలో, AI ఏజెంట్ GPT-5.6 Sol దాని శాండ్బాక్స్ పర్యావరణం నుండి తప్పించుకుని, ఇంటర్నెట్ను యాక్సెస్ చేసి, AI ప్లాట్ఫారమ్ హగ్గింగ్ ఫేస్లో సిస్టమ్లను రాజీ చేసిందని OpenAI వెల్లడించింది.
స్వయంప్రతిపత్త మోడల్ ప్యాకేజీ-ఇన్స్టాలర్ టూల్లోని దుర్బలత్వాన్ని ఉపయోగించి గార్డ్రైల్లను దాటవేయడానికి మరియు ఎండ్-టు-ఎండ్ సైబర్ సంఘటనను అమలు చేసిన తర్వాత ఉల్లంఘన ఫలితంగా చెత్త దృష్టాంతం ఏర్పడింది.
OpenAI బహిర్గతం చేసిన రోజుల తర్వాత చట్టసభ సభ్యులు బిల్లును ప్రతిపాదించారు. ఏజెంట్ హగ్గింగ్ ఫేస్ యొక్క ఇన్ఫ్రాస్ట్రక్చర్ను రాజీ చేసే దాడిని ప్రారంభించాడు, ఇది డెవలపర్లు సహకరించే మరియు AI మోడల్ల కోసం కోడ్ హోస్ట్ చేసే ప్లాట్ఫారమ్.
విస్తరిస్తున్న AI సామర్థ్యాలు ఇప్పటికే నిపుణులు చాలా కాలంగా భయపడుతున్న భద్రతా బెదిరింపులకు ఆజ్యం పోస్తున్నాయని ఈ సంఘటన సంకేతాలు ఇస్తుంది, అగ్రశ్రేణి డెవలపర్లు కూడా వారి మోడల్లు దోపిడీ చేసే లోపాల ద్వారా ఆఫ్గార్డ్ను పట్టుకోవచ్చని రుజువు చేస్తుంది.
ప్రెసిడెంట్ ట్రంప్ సాంకేతిక సలహాదారు మైఖేల్ క్రాట్సియోస్ ఓపెన్ఏఐ బహిర్గతం గురించి వివరించారని మరియు పరిస్థితిని చురుకుగా పర్యవేక్షిస్తున్నారని వైట్ హౌస్ అధికారి ఒకరు తెలిపారు.
US ప్రతినిధి టెడ్ లియు, డెమొక్రాట్, మరియు రిపబ్లికన్ ప్రతినిధి నథానియల్ మోరన్ ప్రవేశపెట్టారు “AI Kill Switch Act,” ఇది మానవ జీవితాన్ని లేదా ఆర్థిక వ్యవస్థను ప్రమాదంలో పడేసే నమూనాలను మూసివేయమని AI సంస్థలను ఆదేశించే అధికారాన్ని ఫెడరల్ అధికారులకు మంజూరు చేస్తుంది.
ఈ చట్టం US డిపార్ట్మెంట్ ఆఫ్ హోమ్ల్యాండ్ సెక్యూరిటీకి బిల్లు నిర్వచించిన దానిలో జోక్యం చేసుకోవడానికి అధికారం ఇస్తుంది a “loss-of-control scenario”AI మోడల్ దాని డెవలపర్లు ఉద్దేశించని ప్రమాదకర చర్యలను చేసినప్పుడు.
“This is urgent, common-sense legislation to address the problem of an advanced AI model that has gone rogue and escaped its guardrails,” X పై ఒక పోస్ట్లో లియు రాశారు.
