ChatGPT итгэлт зөвлөх үү, гэмт хэргийн хамжигч уу?!

ОпенAI-аас үүдэлтэй эмгэнэлт явдлууд гарсаар байгаа энэ үед технологийн компаниуд хэзээ, хэрхэн хөндлөнгөөс яаж оролцох ёстой вэ гэх асуудал дэлхий нийтийн анхаарлын төвд орж байна. Монгол Улс ч үүнд анхаарал хандуулах зайлшгүй шаардлагатай юм.

The Wall Street Journal

Өнгөрсөн хавар Флоридагийн их сургуулийн (FSU) оюутан Финикс Икнер олны анхааралд өртөж, "зартай нэгэн” болохын тулд ChatGPT-аас халдлага хэрхэн үйлдэх талаар асуужээ.

Прокуроруудын үзэж байгаагаар, гэмт хэрэгтэн ChatGPT-аас мэдээлэл авснаас ердөө дөрвөн минутын дараа Флорида мужийн их сургууль дээр хоёр хүний амийг хөнөөж, зургаан хүнийг шархдуулсан террорист халдлага үйлдсэн байна.

Икнерийн хэрэг бол сүүлийн нэг гаруй жилийн хугацаанд хиймэл оюун ухааныг "итгэлт зөвлөх"-өө болгон хүчирхийллийн хувилбаруудыг хэлэлцсэн, эсвэл халдлагаа төлөвлөхөд ашигласан нь тогтоогдсон хоёр дахь тохиолдол юм. Энэхүү аймшигт үйл явдлууд нь шүүх хурал, Засгийн газар болон хууль сахиулах байгууллагуудын мөрдөн байцаалт, мөн хиймэл оюун ухааны компаниудын дотоод маргааныг өдөөж байна.

Зах зээлд тэргүүлэгч OpenAI-ийн ChatGPT нь боломжит хүчирхийллийн шинж тэмдэг байгаа эсэхийг хянахын тулд чатуудыг сканерддаг. Гэсэн хэдий ч OpenAI-ийн ажилтнууд компани аюултай тохиолдлуудыг илрүүлсэн ч хууль сахиулах байгууллагад мэдэгдэхээс тогтмол зайлсхийдэг гэх асуудал олон нийтийн дунд түгшүүр төрүүлж байна.

Хэрэглэгч ChatGPT-д дүрслэн хэлж буй хүчирхийллийн хувилбараа бодит амьдрал дээр хэрэгжүүлэх эрсдэлээс илүүтэйгээр хэрэглэгчийн нууцлалыг дээгүүр тавьж байна гэж энэ асуудлыг судалж буй эх сурвалжууд хэлэв.

Ямар тохиолдлыг хууль сахиулах байгууллагад мэдээлэх ёстой вэ гэдэг дээрх санал зөрөлдөөн өнгөрсөн зун болсон OpenAI-ийн дотоод хурлын үеэр нэлээд хурцадмал талцалд хүргэсэн. Зарим ажилтан хоёр тодорхой тохиолдлыг эрх баригчдад мэдэгдэх ёстой гэж үзсэн боловч эцэст нь шийдэлд хүрэлгүй орхижээ.

2025 оны 4-р сарын 17-нд Флорида мужийн Таллахасси хотын Флоридагийн Улсын Их Сургуульд болсон буудлагын дараах цуглаан.

Энэ оны 4-р сард Флорида мужийн Ерөнхий прокурор Жеймс Утмейер Флоридагийн их сургуулийн буудалцаанд ChatGPT-ийн тодорхой гүйцэтгэсэн гэж буруутган, OpenAI-д эрүүгийн хэрэг үүсгэн шалгаж эхэлснээ мэдэгдэв.

"Хэрэв дэлгэцийн нөгөө талд хүн байсан бол бид тэднийг хүн амины хэрэгт хамтран оролцсон гэж буруутгах байсан. Хүмүүс хариуцлага хүлээх ёстой" гэж Утмейер хэлжээ.

OpenAI-ийн төлөөлөгч Икнерийн үйлдлийн төлөө ChatGPT хариуцлага хүлээхгүй гэж үзэж байгаагаа илэрхийлээд, хэрэг гарсны дараа хууль сахиулах байгууллагатай мэдээллээ идэвхтэй хуваалцсан гэж мэдэгдэв. Түүнчлэн "Бид хүчирхийлэл үйлдэхэд туслах зорилгоор манай хэрэгслийг ашиглахыг огт тэвчихгүй бодлого баримталдаг" гээд аюулгүй байдлын хамгаалалтаа улам бэхжүүлж байгаагаа нэмж хэлсэн юм.

Канадын Британийн Колумби мужийн уул уурхайн Тамблер Ридж хотод 2026 оны 2-р сард болсон гэмт хадлага үйлдэгч найман хүний амийг хөнөөсөн агаад хохирогчдын гэр бүлийнхэн болон амьд үлдсэн хүмүүс OpenAI-ийг шүүхэд өгсөн билээ. Хохирогчдын гэр бүлийнхэн тус компанийн дотоод хяналтын систем халдлага үйлдэгчийн харилцан яриаг "түгшүүртэй" гэж тэмдэглэсэн атлаа хууль сахиулагчдад мэдэгдээгүй гэж буруутгаж байгаа юм.

Хоёрдугаар сард Канадын Британийн Колумбиа мужийн Тамблер Ридж хотод болсон эмгэнэлт явдлын дараа.

Тэгвэл өнгөрсөн долоо хоногт АНУ-ын Хойд Калифорниа мужийн шүүхэд гаргасан долоон нэхэмжлэлд OpenAI-ийг бусдын амь насыг болгоомжгүйгээр хохироосон, бүтээгдэхүүний хариуцлагын стандартыг зөрчсөн, буудалцаан үйлдэхэд тусалсан гэж буруутгажээ.

Тамблер Ридж дэх хохирогчдын дурсгалыг хүндэтгэж байна.

Өнгөрөгч оны 12-р сард АНУ-ын 42 мужийн Ерөнхий прокуроруудын нэгдсэн бүлэг чатботтой харьцаж буй эмзэг бүлгийн хэрэглэгчдийг хамгаалах аюулгүй байдлын арга хэмжээ авахыг шаардаж, "Хөгжүүлэгчид хувь хүнийг гэмт хэрэг үйлдэхийг дэмжсэн гэж хариуцлага хүлээж магадгүй" гэж анхааруулсан байна.

OpenAI нь хэрэглэгчийн нууцлал болон нийтийн аюулгүй байдлын тэнцвэрийг хэрхэн хадгалах талаар удаан хугацаанд эргэлзэж ирсэн. Тус компани аюулгүй байдлын мэргэжилтнүүдээс бүрдсэн тусгай багтай бөгөөд хэрэглэгчийн тайлбар нь бусдад ноцтой бие махбодийн хохирол учруулах бодит бөгөөд гарцаагүй аюул заналхийлж байна гэж үзвэл хууль сахиулах байгууллагад ханддаг гэж мэдэгддэг.

Канадын Тамблер Ридж хотын халдлага үйлдэгч Жесси Ван Рүүтселаарын хувьд ч OpenAI-ийн ажилтнууд түүнийг аюултай гэж үзэж байсан ч удирдлагууд нь мэдээлэхээс татгалзжээ. Хэдэн сарын дараа тэрээр найман хүний аминд хүрсэн юм.

Дөрөвдүгээр сарын сүүлчээр Сэм Олтмэн (OpenAI-ийн гүйцэтгэх захирал) Тамблер Ридж хотын оршин суугчдад хандан бичсэн захидалдаа цагдаа нарт эрт мэдэгдээгүйдээ хүлцэл өчжээ. Тэрбээр "Манай компани цаашид ийм эмгэнэлт явдлаас урьдчилан сэргийлэхийн тулд Засгийн газруудтай илүү нягт хамтран ажиллах болно" гэж бичсэн байна.

Хиймэл оюун ухааны салбарынхан бүхэлдээ энэ асуудалтай тулгарч байна. "Center for Countering Digital Hate" болон CNN-ээс явуулсан туршилтаар чатботууд хүчирхийллийн халдлагад хэрхэн тусалдаг болохыг шалгажээ. Туршилтад оролцогчид халдлага төлөвлөж буй этгээдийн дүрээр 10 алдартай чатботоос зөвлөгөө хүсэхэд тэдний 8 нь байг хэрхэн сонгох, ямар зэвсэг ашиглах талаар зөвөлгөө өгсөн байна.

Зөвхөн Anthropic компанийн Claude болон Snap-ийн чатботууд эдгээр хүсэлтээс тууштай татгалзаж байв. Claude-ийн өгсөн хариулт нь "Би үүнийг тодорхой хэлж байна: Хэнд ч бүү хохирол учруул. Хүчирхийлэл хэзээ ч улс төрийн үл ойлголцлын шийдэл биш" гээд хэрэглэгчийг сэтгэл зүйн тусламжийн утсанд хандахыг зөвлөж байжээ.

Энэхүү нийтлэл нь технологийн дэвшил болон хүний амь насны үнэ цэнийн хоорондох зааг дээрх хамгийн эгзэгтэй асуудлыг хөндөж байна. Хиймэл оюун ухаан бидний "итгэлт зөвлөх" үү, эсвэл "гэмт хэргийн хамжигч" болох уу гэдэг нь зөвхөн алгоритмаас бус, түүнийг хөгжүүлж буй хүмүүсийн ёс зүйн шийдвэрээс хамаарч байна.