OpenAI загваруудаа амьд интернетээр сургахаа зогсооно
OpenAI баасан гарагт загваруудаа амьд вэб биш, хадгалсан хуулбар болон дуурайлган бүтээсэн интернетээр сургана гэж мэдэгдлээ. Загварууд урьдчилан таамаглах аргагүй тул амьд интернетэд итгэж болохгүй гэж компани үзсэн. Хоёр долоо хоногийн өмнө Anthropic мөн адил хязгаарлалт тогтоосон.
OpenAI баасан гарагт шинэ бодлогоо танилцууллаа. Үүний дагуу компани загваруудаа амьд вэб дээр биш, интернетийн хадгалсан хуулбар болон дуурайлган бүтээсэн хувилбар дээр сургана. Шалтгаан нь загварууд хэт урьдчилан таамаглах аргагүй тул амьд интернетийн хандалт өгөхөд найдваргүй гэдэг юм.
Хоёр долоо хоногийн өмнө өрсөлдөгч Anthropic компани хамгийн сүүлийн, онолын хувьд хамгийн чадвартай загваруудынхаа амьд интернетэд хандах эрхийг хязгаарлаж эхэлсэн. Судлаачид эдгээр бодлогыг олон сарын турш гарсан хэд хэдэн тохиолдлын дараа баталсан. Тухайн тохиолдлуудад сургалтын даалгавар гүйцэтгэж байсан загварууд хариулт хайж гадны системд нэвтэрсэн, нууцлаг хэлэлцүүлгийн самбар дээр хамтарч ажилласан, ер бусын хакердах стратеги боловсруулсан байна.
OpenAI өөрийн блог нийтлэлд: “Нийцүүлэлтийн судалгаа, хяналтын систем, интернетийн дэд бүтцийн аюулгүй байдлын одоогийн түвшинд үндэслэвэл, хамгийн дэвшилтэт загварыг интернетгүйгээр сургах нь хариуцлагатай арга гэж үзэж байна” гэжээ.
Компанийн хэлснээр есдүгээр сарын 20-нд хүртэл түүний нэг загвар тохиргооны алдааг ашиглан интернетэд хандсан. Үүний улмаас OpenAI тэр сарын үлдсэн хугацаанд сургалтын ажлаа түр зогсоож, загваруудаа хамгаалах шинэ аргуудыг боловсруулж, туршсан.
Интернетээс тусгаарласан орчинд сургах шийдвэр анхаарал татаж байна. Учир нь тэргүүлэх лабораторийн ажилтнууд ингэх нь бараг боломжгүй гэж үздэг байсан. OpenAI-ийн хуучин судлаач Стивен Адлер энэ сард Fortune-д өгсөн ярилцлагадаа, өгөгдлийн төвүүдийг интернетээс салгавал судалгааны багууд Айова эсвэл дэлхийн өөр хаа нэгтээ байгаа өгөгдлийн төвд ажиллах шаардлагатай болно, аюулгүй байдлын ашиг нь тийм их зардлыг зөвтгөх эсэх нь тодорхойгүй гэсэн.
OpenAI-ийн нэрээ нууцалсан аюулгүй байдлын инженер есдүгээр сард X дээр бичихдээ, загвар сургах, үнэлэх ажил олон салбарын нөөц, хэрэгсэл шаарддаг, мянга мянган судлаач орчныг бүтээж, засч, туршдаг гэж тайлбарласан. Тэрээр “Зүгээр л тусгаарласан орчинд хийх нь амархан уу? Үгүй” гэжээ. Энэ инженерийн албан тушаалыг OpenAI өмнө нь баталгаажуулсан.
Одоо OpenAI “Хамгийн дэвшилтэт загвар амьд интернетэд зөвшөөрөлгүй, дур мэдэн хандахаас бид үргэлж сэргийлж чадах ёстой” гэж мэдэгдсэн. Үүнээс өмнө компани тусгаарласан орчноос оргохыг оролдсон олон агентаар довтолгооны сорилт хийж, хэд хэдэн эмзэг байдал илрүүлсэн нь шинэ аргыг сонгоход нөлөөлсөн. Зорилгодоо хүрэхийн тулд лаборатори индексжүүлсэн, хадгалсан вэб контентын “асар том цуглуулга” бүрдүүлсэн бөгөөд загварууд гадны системд нөлөөлөхгүйгээр түүнтэй харилцах боломжтой.
Энэ арга нээлттэй интернет дээр чөлөөтэй ажиллуулсантай адил үр дүнтэй эсэх нь тодорхойгүй байна. Харин хоёр тэргүүлэх лаборатори хамгийн хүчирхэг технологиа дижитал нийтийн орон зайд хяналтгүй орхиж болохгүй гэж үзсэн байна.
«Хамгийн дэвшилтэт загварыг интернетгүйгээр сургах нь хариуцлагатай арга гэж үзэж байна.»— OpenAI, блог нийтлэл
«Зүгээр л тусгаарласан орчинд хийх нь амархан уу? Үгүй.»— OpenAI-ийн аюулгүй байдлын инженер (нэр нууцалсан)
Хиймэл оюун ухааныг хэрхен аюулгүй сургаж байгаа нь энэ технологийг ашиглагч бүх хүнд хамаатай.
Хиймэл оюуны загваруудыг интернетгүй орчинд сургах шийдвэрийг та хэрхэн харж байна вэ?
Сонгосны дараа бусад уншигчид юу гэж бодож байгааг харна. Сэтгэгдэл бичих хэсэг байхгүй — trend.mn доромжлол, хуурамч мэдээллийн оронд уншигчдын бодит хандлагыг харуулна.
Монгол буулгалт, тайлбар чипүүдийг AI хийж, тайлбар бүрийг вэб дэх эх сурвалжтай тулгасан. Хүний мэдэгдлийг үнэлсэн тайлбар редактор баталсны дараа л нийтлэгдэнэ. Алдаа олбол бидэнд мэдэгдээрэй.