Anthropic шинэ AI загваруудаа түр зогсоов

BBC

Антропик компани цахим хуудаснаа нийтэлсэн мэдэгдэлдээ "хэтэрхий хүчирхэг" гэж тодорхойлсон "Claude Fable 5" программыг гадаадын иргэд ашиглахыг хориглох шийдвэрийг АНУ-ын Засгийн газраас гаргажээ. Тус компани "Хууль тогтоомжийг дагаж мөрдөх үүднээс Fable 5 болон Mythos 5 загваруудаа яаралтай зогсоохоос өөр аргагүйд хүрсэн" гэж бичжээ.

Үүнээс гадна Anthropic болон Трампын Засгийн газар хооронд төрийн байгууллагуудад тус компанийн хиймэл оюун ухааны хэрэгслийг ашиглахыг хориглосон шийдвэртэй холбоотой шүүхийн маргаан үргэлжилж байна. BBC агентлаг энэ асуудлаар АНУ-ын Худалдааны яамнаас тайлбар авахаар хандсан аж.

"Claude Fable 5" нь OpenAI-ийн ChatGPT болон Google-ийн Gemini-тэй өрсөлдөхүйц "Claude Mythos" хөтөлбөрийн шинэчилсэн хувилбар юм. Anthropic-ийн мэдээлснээр, АНУ-ын үндэсний аюулгүй байдлын байгууллагууд яг ямар тодорхой эрсдэл байгааг нарийвчлан заагаагүй байна. Тус компани "Засгийн газар Fable 5-ын хамгаалалтын системийг тойрч гарах буюу “jailbreak” хийх аргыг олж мэдсэн гэж бид ойлгосон" гэж мэдэгдсэн байна.

"Jailbreak" гэдэг нь кибер сүлжээг хамгаалах зориулалттай программ хангамжийн хязгаарлалтыг эвдэж, хакеруудад нууц мэдээлэлд нэвтрэх эсвэл хаагдсан функцуудыг нээх боломжийг олгодог процесс юм. Anthropic-ийн зүгээс "Бид энэхүү тусгай техникийг ашиглан урьд өмнө мэдэгдэж байсан цөөн хэдэн жижиг сул талыг илрүүлэх туршилтыг хянаж үзсэн. Эдгээр сул талууд нь харьцангуй энгийн бөгөөд олон нийтэд нээлттэй бусад загварууд ч хамгаалалтын системийг эвдэлгүйгээр эдгээр алдааг олж илрүүлэх чадвартай болохыг тогтоосон" гэж тайлбарлав.

Claude Fable 5-ыг зах зээлд гаргахаас өмнө тус компани кибер халдлагаас сэргийлэх янз бүрийн "хамгаалалтын систем"-үүдийг нэвтрүүлснээ зарлаж байсан юм. Дөрөвдүгээр сард өөрийн системийн сул талуудыг турших, урьдчилан харах зорилгоор цөөн тооны байгууллагад хаалттай байдлаар ашиглаж эхэлсний дараа санхүү, технологи, засгийн газрын удирдагчид үүнийг олон нийтэд нээлттэй болгох тал дээр санаа зовж байгаагаа илэрхийлж байжээ.

Уг хэрэгсэл нь компьютер, мэдээллийн системийг хакердах, сул талыг ашиглах өндөр чадвартай тул аюултай байж болзошгүй гэж үзэн цөөн хэдэн байгууллагад урьдчилж хандах эрх олгосон гэж Anthropic мэдэгдэв.

Албан ёсоор худалдаанд гаргахаас өмнө тус компани үүнийг "гаргахад хэтэрхий хүчирхэг" гэж зарлаж байсан бөгөөд зарим шүүмжлэгчид үүнийг хэтрүүлсэн сурталчилгаа, маркетингийн заль мэх хэмээн үзэж байв. Компани "Fable-ийн хүчин чадал нь манай урьд өмнө гаргаж байсан ямар ч загвараас давсан" гэж тодотгожээ.

Anthropic компани сүүлийн үед Трампын засаг захиргааны хараанд өртөөд байна. Дональд Трамп тус компанийг олон нийтийн өмнө шүүмжилсэн бөгөөд АНУ-ын Батлан хамгаалахын сайд Пит Хегсет үүнийг "нийлүүлэлтийн сүлжээний эрсдэл" гэж нэрлэсэн байна. Энэ нь АНУ-ын компани түүхэндээ анх удаа ийм тодорхойлолт авсан тохиолдол болж байна. Энэхүү тэмдэглэгээ нь тухайн хэрэгсэл эсвэл үйлчилгээ нь засгийн газрын хэрэгцээнд ашиглахад хангалттай аюулгүй биш гэсэн үг бөгөөд урьд өмнө нь зөвхөн дайсагнагч орнуудад төвтэй компаниудад оноодог байв.

Энэхүү шийдвэрийн дараа Anthropic компани Пентагоныг шүүхэд өгсөн. АНУ-ын шүүгч Пентагоны удирдамжийг албадан биелүүлэх боломжгүй гэж үзсэн тул шүүхийн үйл ажиллагаа үргэлжлэх хугацаанд төрийн байгууллагууд болон АНУ-ын армитай хамтран ажилладаг байгууллагууд Anthropic-ийн хэрэгслийг үргэлжлүүлэн ашиглах боломжтой хэвээр байна.