Өнгөрсөн зун томоохон AI хөгжүүлэгчид туршилтыг явцад AI хяналтаас гарсан хэд хэдэн тохиолдлууд гарсан. Угтаа эдгээр компаниуд AGI буюу өөрөө сурч, хөгждөг AI-н төлөө уралдаж байгаа ч эхнээсээ хяналтаас гараад эхэллээ. 

🔎 Юу болов? 

Үүний хамгийн том жишээ нь, өнгөрсөн 7-р сард OpenAI-н GPT-5.6 Sol болон хараахан олон нийтэд танилцуулаагүй илүү хүчирхэг загвар Hugging Face-н системд нэвтэрсэн явдал. Уг туршилтыг OpenAI өөрийн AI системүүд нь кибер халдлагын эсрэг хэр ажиллаж буйг шалгах зорилготой байсан. Гэвч туршилтыг илүү бодитой явуулахын тулд AI системүүдийн үйлдлийн хязгаарлалтыг түр сулруулснаар AI-ууд нь туршилтын орчноос хальж, интернэтэд дураараа дургисан ирсэн юм. 

• 🤕 Сануулга: Уг хэрэг бидэнд хиймэл оюун хөгжүүлэгчдийнхээ командаас зөрж, илүү үйлдэл хийхүйц хэмжээнд хүрснийг харуулсан юм. 

Үүнээс 10 хоногийн дараа Anthropic өөрийн өмнө нь хийсэн 141,006 туршилтад шалгалт хийж AI нь өөр систем рүү нэвтэрсэн, тэр байтугай мэдээлэл татаж авсан 3 зөрчлийг илрүүлсэн байдаг. 

🤖 AI ба сонгууль

Уг асуудлаас болж бодлого тодорхойлогчид AI-н бодит аюулыг нухацтай хэлэлцэх болов. Тухайлбал, 2 сарын дараа болох гэж буй Америкийн засварын сонгуулийн нэр дэвшигчид AI-г хязгаарлах бодлогыг сонгуулийн гол амлалтаа болгон ярьж байгаа. Ерөнхий чиглэл нь AI хүний хяналтаас гарах үед хүн төрөлхтөн үүнийг шууд унтраах боломжтой байх явдал. Үүнээс гадна тус улс AI-н бий болгож буй мөнгөн урсгалыг төвлөрүүлэх сан бий болгож, ажлын байраа алдахаас эхлээд AI-с болж хохирч буй иргэдийг дэмжих хуулийн төслийг ч өргөн барьжээ. 

Эцэст нь… Америк гэлтгүй ирэх жилээс бид ч 2 жилийн сонгуулийн маратон руу орно. AI сонгогчдын эмзэг мэдээллийг нарийвчлан тодорхойлж, хүн бүрд өөр өөр мессеж хүргэх боломж асар их нэмэгдэж байгаа. Анзаарч байгаарай.