Нүд ч худалч, чих ч худалч - Улс төр дэх хиймэл оюунаар бүтээсэн хуурамч мэдээллүүд
Та хэзээ ч хийгээгүй зүйлээ хийж, хэлээгүй үгээ хэлсэн болж байна гээд төсөөлөөд үз дээ. Аймаар биш гэж үү? Хамгийн гол нь үүнийг хуурамч гэж мэдэхгүйгээр хүн бүр итгэвэл асуудал бүр ч ярвигтай болох нь мэдээж. Хоёр жилийн өмнө Ерөнхийлөгч У.Хүрэлсүхийг хятадаар “яриулж”, жилийн өмнө Нийслэлийн Засаг дарга бөгөөд Улаанбаатар хотын Захирагч Х.Нямбаатараар зам дээр “давс цацуулах” зэргээр хуурамч бичлэгүүд хийж, олон нийтийн итгэлээр наадаад авсан. Нүд үнэнч, чих худалч гэдэг байлаа. Одоо бол аль аль нь л худалч болжээ. Нүдээр үзсэндээ ч итгэж боломгүй болсон “гүн гүнзгий хуурамч” эрин зуунд тавтай морил.
Гүнээс гүн хуурамч “Дийпфэйк (Deepfake) технологи”
Хиймэл оюун ухааны нэг төрөл болох “дийпфэйк” технологи нь аудио, видео контентыг урьд өмнө хэзээ ч байгаагүй нарийвчлалтайгаар удирдах боломжтой, маш бодит синтетик медиа бүтээх боломжийг олгосон билээ. Дийпфэйк технологи нь энтертайнмент, дижитал урлагт янз бүрийн боломжийг авч ирж байгаа ч буруугаар ашиглах нь улс төрийн пи арт ихээхэн бэрхшээл учруулах юм. "Deepfake" гэдэг нэр томьёо нь "deep learning" (гүн суралцах) ба "fake" (хуурамч) гэсэн үгийн хослол бөгөөд маш бодитой боловч бүрэн эсвэл хагас зохиомол контент үүсгэхийн тулд хиймэл оюун ухааны арга техникийг ашиглахыг илэрхийлдэг. Тэгэхээр энэ нийтлэлд цаашид гүн хуурамч технологи гэж нэрийдвэл ямар вэ?
Харин синтетик медиа гэдэг нь ихэвчлэн хиймэл оюун ухааны техникийн тусламжтай зохиомлоор үүсгэсэн эсвэл компьютерын алгоритмыг ашиглан өөрчилсөн зураг, видео, аудио бичлэг зэрэг аливаа төрлийн мэдээллийг хэлнэ. Эдгээр мэдээллийг анхнаас нь хуурамчаар бүтээх эсвэл одоо байгаа контентыг засаж өөрчилснөөр жинхэнэ мэт харагддаг аж /Hao, K. “The AI technique that could imbue machines with the ability to reason”., 2019/.
Гүн хуурамч технологи улс төрийн пи ард...
2019 онд АНУ-ын конгрессын төлөөлөгчдийн танхимын спикер Нэнси Пелосиг согтуу байгаагаар хувиргасан хуурамч дүрс бичлэг интернэт ертөнцөд тарж байв. Мөн 2020 оны зун Массачусетсийн Технологийн Их сургуулийн хэсэг судлаачид Apollo 11 хөлөг сүйрсэн тухай мэдэгдэж байгаа Ерөнхийлөгч Никсоны хуурамч дүрс бичлэгийг гүн хуурамч технологи ашиглан бүтээснээ нийтэд үзүүлж байжээ. Энэ мэт байдлаар улс төрчдийн царай төрхийг ашиглан хийсэн хуурамч зураг, бичлэгүүд олон. Монголд ч ийм тохиолдол олон бөгөөд тэднээс түүвэрлэн, эргэн санацгаая.
1. Ерөнхийлөгч У.Хүрэлсүхийг хятадаар “яриулав”
2023 оны арван нэгдүгээр сарын 19-нд Өвөр Монголын “Талын дуу хоолой” радиогийн хуудаст “Хятад хэлээр маш сайн ярьж байна” гэсэн тайлбартайгаар Монгол Улсын Ерөнхийлөгч У.Хүрэлсүхийг хятад хэлээр мэндчилгээ дэвшүүлж байгаа мэт ярьсан бичлэг түгээж байв. Бичлэгийн эх нь 2023 оны есдүгээр дүгээр сарын 1-нд “Монгол Улсын Ерөнхийлөгчийн Тамгын газар” фейсбүүк хуудаст оруулсан “Дэлхийн нийслэл Хархорум” сэдэвт теле хичээлийн бичлэг байжээ. Хуурамч бичлэгийн зүүн дээд буланд байх 80630423918 TikTok ID кодоор хайхад “tsahim yortonts” нэртэй Өвөр Монголд байрлалтай хаягаар анх бичлэгийг нийтэлсэн байна. Харин цааш түгээсэн нь фейсбүүк дэх “Талын дуу хоолой радио үзэх” нэртэй хаяг юм.
Уг явдалтай холбоотойгоор ЦЕГ-ын Кибер гэмт хэрэгтэй тэмцэх хэлтсээс тус оны арван нэгдүгээр сарын 21-нд “Уг бичлэгийг Монгол Улсын иргэн М болон А нар цахим орчинд түгээж, үндэсний тусгаар тогтнол, эв нэгдлийг эвдрэлцүүлэх, алдар нэр хүндэд халдах, худал мэдээлэл тараах гэмт хэргийн шинжтэй байж болзошгүй учир арван нэгдүгээр сарын 20-ны өдөр сэжигтнээр мэдүүлэг авч, шүүхийн зөвшөөрөлгүй баривчилсан. Цагдаагийн байгууллагын мөрдөн шалгах ажиллагааны үеэр худал мэдээлэл тараах гэмт хэрэг үйлдсэн байж болзошгүй гэж үзэн эрүүгийн хэрэг үүсгэн шалгаж байгаа. Анх мэдээлэл тавигдсан “Талын дуу хоолой” хуудас нь Монголын 102.1FM-тэй хамтран ажилладаг. Тус FM-ийн эзэн М нь “Like HD TV”-ийг мөн хариуцдаг. М-ийн хамаарал бүхий этгээд нь Тен медиа ХХК гэх байгууллагад ажилладаг. Үндсэндээ зохион байгуулалттай үйлдсэн байж болзошгүй гэж үзэж байна” хэмээн мэдэгдсэн билээ.
2. Нүүрсний хулгай – “Тунгалаг хулгай 2023” хошин тойм
Live TV нь “AI Live” буландаа 2023 оны арван хоёрдугаарр сарын 29-нд “Тунгалаг хулгай 2023” хошин тойм гэх дийпфэйк ашиглан бүтээсэн бичлэгийг нийтэлсэн. Уг бичлэг нь “Тунгалаг тамир” киноны Итгэлт баян, Цахиур Төмөр гэх дүрүүдийн царайг ашиглан, дуу хоолойг хуурамчаар бүтээн, нүүрсний хулгайн хэргийн тухай өгүүлсэн бичлэг юм.
3. Нийслэлийн Засаг дарга бөгөөд Улаанбаатар хотын Захирагч Х.Нямбаатарыг “давс цацуулсан”
2024 оны нэгдүгээр сарын 8-нд Live TV “AI Live” буландаа “Х.Нямбаатар: Чи ч гэсэн буруутай, би ч гэсэн буруутай” гэсэн тайлбартай бичлэг нийтэлсэн. Уг бичлэгт Улаанбаатар хотын Захирагч Х.Нямбаатар хотын авто машины зам дагуу хүнсний давс цацаж явж байгаад халтирч унаж байгааг дүрсэлжээ.
4. С.Наранцогт “Ногдол ашиг тараах нь байтугай, бүр Цагаан сараас өмнө өгөхөө больсон байвал яах вэ?”
"Эрдэнэс Монгол" ХХК-ийн Гүйцэтгэх захирал С.Наранцогт 1072 хувьцааны ногдол ашиг хуваарилахтай холбоотой мэдээлэл өгч байгаа агуулгатай бичлэгийг Live TV 2024 оны нэгдүгээр сарын 19-нд нийтэлсэн. С.Наранцогтын царайг ашиглан бүтээсэн бичлэгт тэрээр “Ногдол ашиг тараах нь байтугай, бүр Цагаан сараас өмнө өгөхөө больсон байвал яах вэ” гэж хэлдэг аж. Уг хуудас гүн хуурамч технологи ашиглан бүтээсэн бичлэгүүд дээрээ “AI ашиглан бүтээв” гэж тамгалсан байдаг ч AI гэх үг нь ойлгомжгүй, шинэ ойлголт байна уу, ямартай ч иргэд бичлэгт олноор итгэж, бухимдсан сэтгэгдэл үлдээжээ.
Улс төрийн пи ар дахь энэ мэт технологийн хэрэглээ нь сонгогчдын итгэлийг алдуулах сул талтай учраас хууль, эрх зүйн хүрээнд зохицуулах шаардлагатай. Гэвч манайд энэ төрлийн зохицуулалт нэн хомс юм. Германы Сүлжээний хэрэгжилтийн тухай хууль (NetzDG) болон АНУ-н “Калифорнийн Ассамблейн Билл 730”-д “Дийпфэйк технологи ашигласан мэдээллийг тодорхойлж, зөрчлийн шийтгэлийг тогтооно” гэж заасан байдагг. Энэ мэтчилэн Франц, Сингапур, Австрали гэх мэт олон оронд сүүлийн үед улс төрийн пи арын хүчтэй арга болж буй уг технологийг хуульчилсан. Харин Монгол Улсын хувьд одоо хүчинтэй байгаа хуулиудаас “Кибер аюулгүй байдлын тухай хууль”-д хуурамч мэдээлэлтэй холбоотой заалт байсангүй. “Эрүүгийн хууль”-ийн 13.14 дүгээр зүйлд “Хүний нэр төр, алдар хүнд, хуулийн этгээдийн ажил хэргийн нэр хүндэд халдсан илт худал мэдээллийг олон нийтэд тараасан бол дөрвөн зуун тавин нэгжээс нэг мянга гурван зуун нэгжтэй тэнцэх хэмжээний төгрөгөөр торгох, эсхүл хоёр зуун дөчин цагаас долоон зуун хорин цаг хүртэл хугацаагаар нийтэд тустай ажил хийлгэх, эсхүл нэг сараас гурван сар хүртэл хугацаагаар зорчих эрхийг хязгаарлах ял шийтгэнэ” гэжээ. Тэгэхээр манай улсын хувьд хуурамч мэдээллийг Эрүүгийн хуулийн хүрээнд зохицуулдаг байх нь.
Гүн хуурамч технологид олон нийт итгэж байна уу?
Гүн хуурамч технологийн талаарх олон нийтийн мэдлэг ойлголтыг шалган, улс төрийн талаарх аливаа ойлголтод нь нөлөөлж буй эсэхийг мэдэх зорилгоор 18-54+ насны иргэдийг 5 насны бүлэгт хуваан 382 хүнээс авсан судалгаагаар хариулагчдын 69 хувь нь уг технологийн тухай өмнө нь ямар нэг байдлаар мэдээлэл авч байгаагүй гэсэн нь иргэдийн энэ талаарх мэдлэг, ойлголт хомс байгааг илтгэж байна /Намуун.Б. Хиймэл оюунаар бүтээсэн синтетик мэдээлэл олон нийтийн итгэлд нөлөөлөх нь//“Сэтгүүл зүй” МУИС-ийн эрдэм шинжилгээний бичиг №25. 2024/ . Судалгаанд оролцогчдын 80 хувь нь “Та улс төрийн зорилгоор технологиор бүтээсэн хуурамч зураг, бичлэг иргэдийн улс төрчдөд итгэх итгэлийг бууруулж болзошгүй гэж үзэж байна уу?” гэдэг асуултад “тийм” гэж хариулжээ. Эндээс олон нийтийн дунд ч гүн хуурамч технологийг буруугаар ашиглавал иргэдийн санаа бодолд сөргөөр нөлөөлж болно гэсэн болгоомжлол буйг харж болох аж.
Түүнчлэн “Та жинхэнэ болон хуурамч зураг, бичлэгийг ялгаж таних чадвараа үнэлнэ үү?” асуултад судалгаанд оролцогчдын 40 хувь дунд зэрэг итгэлтэй байна гэсэн бол үүний дараа 34.8 хувь нь итгэлгүй байна гэжээ. Уг судалгааны үр дүнгээс харахад гүн хуурамч технологийг ашиглан олон нийтийн санаа бодлыг удирдах, үл ойлголцол үүсгэх, улс төрийн нам эвсэл, нэр дэвшигчид болон ардчилсан үйл явцад итгэх итгэлийг алдагдуулах эрсдэлтэйгээс гадна хувь хүний эрхэд халдан хуурамчаар гутаан доромжлох зэрэг олон эрсдэл үүсэж болзошгүй юм. Иймээс өдөр бүр шинэ технологи мэндэлж буй энэ үед шинэ техник технологийг хэвлэл мэдээллийн хэрэгсэл, боловсролын байгууллагууд олон нийтэд сайтар танилцуулж, болзошгүй эрсдэлээс хамгаалж байх учиртай.
Нүдээр харсандаа ч итгэж боломгүй болсон учраас нухацтай сэтгэж, үргэлж “Энэ жинхэнэ үү, энэ үнэн үү?” гэж асууж байгаарай!