https://sputnik.kg/20260908/ai-adamzatty-zhok-kylyp-zhiberishi-mumkun-1103522778.html
AI адамзатты жок кылып жибериши мүмкүн. Жеффри Хинтондун билдирүүсү
AI адамзатты жок кылып жибериши мүмкүн. Жеффри Хинтондун билдирүүсү
Sputnik Кыргызстан
БИШКЕК, 8-сен. — Sputnik. Жасалма акылды (AI) көзөмөлдөн чыгарып алсак кесепети өтө жаман болот, ал тургай адамзатты жок кылып коюшу мүмкүн. Бул тууралуу... 08.09.2026, Sputnik Кыргызстан
2026-09-08T11:36+0600
2026-09-08T11:36+0600
2026-09-08T11:36+0600
дүйнөдө
улуу британия
акш
жасалма интеллект
кооптуулук
адамзат
башкаруу
https://sputnik.kg/img/07ea/09/08/1103520864_22:0:1387:768_1920x0_80_0_0_4ecf69523fa3b6932c0eb2c50e0bc204.jpg
БИШКЕК, 8-сен. — Sputnik. Жасалма акылды (AI) көзөмөлдөн чыгарып алсак кесепети өтө жаман болот, ал тургай адамзатты жок кылып коюшу мүмкүн. Бул тууралуу 2024-жылы физика боюнча Нобель сыйлыгын алган жана ЖИнин негиздөөчүлөрүнүн бири, британ-канадалык когнитивдик психолог, эсептөөчү машиналар теориясынын адиси Жеффри Хинтон билдирди. Буга чейин ал жасалма интеллектиден адамга гана мүнөздүү болгон өзүн-өзү аңдап-билүү белгилерин байкаганын айткан. Хинтондун пикиринде, жасалма интеллектинин моделдери өнүккөн сайын акылдуу болуп, аларды башкарып, көзөмөлгө алып туруу барган сайын кыйындай берет. Илимпоздун айтымында, ЖИнин мүмкүнчүлүктөрү арткан сайын анын максат, ниеттери, анын ичинде адамдын көзөмөлүнөн чыгып кетүү жөндөмү да улам арта берет. Ошондой эле Хинтон жасалма акылдын көмөгү менен жасалчу киберчабуулдардын көбөйүү коркунучу тууралуу эскертти. Анын сөзү боюнча, AI-агенттеринин жардамы менен системаларды бузуп кирүү тууралуу акыркы маалыматтар көп нерсенин башталышы гана болушу мүмкүн. "Көптөгөн коркунучтуу киберчабуулдар болот деп ойлойм", — деген Хинтон. Хинтон жасалма нейрон тармагы болгон Больцмандын машинасын түзүүгө катышкан жана AI менен чат-боттордун иштөөсүнө негиз болгон тереңдетип окутуу технологиясын түптөгөн. Ушул эмгеги үчүн аны ЖИнин "аталарынын" бири деп атап калышкан. 2024-жылы ал жасалма нейротүйүндөр жаатындагы изилдөөлөрү жана аларды машиналык окутууда колдонгону үчүн физика боюнча Нобель сыйлыгына татыган. Июль айында OpenAI компаниясы тесттен өткөрүү учурунда анын моделдери Hugging Face платформасынын инфраструктурасын өз алдынча бузуп киргенин билдирген. Ошондой эле буга катышы бар, бирок коомчулукка сунуштала элек моделдин киберкоргонуу параметрлери аны сыноо максатында атайын төмөндөтүлгөнү белгиленген. Августта британиялык ЖИнин коопсуздугу боюнча институт (AI Safety Institute - AISI) буга үндөш окуяны кабарлаган. Бул жай жасалма акылдын алдыңкы жана жаңы моделдеринин коопсуздугун изилдөө, сыноодон өткөрүү жана алар жаратышы мүмкүн болгон коркунучтарды алдын алуу үчүн түптөлгөн. Тагыраагы, Anthropic компаниясынын Claude Mythos 5 жасалма интеллект модели адистерди — иштеп чыгуучуларды алдап, аларга зыяндуу кодду кабыл алдыруу (өткөрүү) максатында жасалма аккаунттарды түзгөнүн билдирген.
https://sputnik.kg/20260619/bishkek-mediaforum-zhasalma-intellekt-1101975809.html
улуу британия
акш
Sputnik Кыргызстан
media@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2026
Sputnik Кыргызстан
media@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Жаңылыктар
kg_KG
Sputnik Кыргызстан
media@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Кыргызстан
media@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
дүйнөдө, улуу британия, акш, жасалма интеллект, кооптуулук, адамзат, башкаруу
дүйнөдө, улуу британия, акш, жасалма интеллект, кооптуулук, адамзат, башкаруу
БИШКЕК, 8-сен. — Sputnik. Жасалма акылды (AI) көзөмөлдөн чыгарып алсак кесепети өтө жаман болот, ал тургай адамзатты жок кылып коюшу мүмкүн. Бул тууралуу 2024-жылы физика боюнча Нобель сыйлыгын алган жана ЖИнин негиздөөчүлөрүнүн бири, британ-канадалык когнитивдик психолог, эсептөөчү машиналар теориясынын адиси Жеффри Хинтон билдирди.
Буга чейин ал жасалма интеллектиден адамга гана мүнөздүү болгон өзүн-өзү аңдап-билүү белгилерин байкаганын айткан. Хинтондун пикиринде, жасалма интеллектинин моделдери өнүккөн сайын акылдуу болуп, аларды башкарып, көзөмөлгө алып туруу барган сайын кыйындай берет.
"Биз аларды (жасалма акылдын моделдерин. — ред.) алдап, амалкөйлүк менен көзөмөлдөп тура алабыз жана ошону менен аларды башкарууну колдон чыгарбайбыз дегенге ишенбейм", — деп анын айтканын CNN телеканалы жазды.
Илимпоздун айтымында, ЖИнин мүмкүнчүлүктөрү арткан сайын анын максат, ниеттери, анын ичинде адамдын көзөмөлүнөн чыгып кетүү жөндөмү да улам арта берет.
Ошондой эле Хинтон жасалма акылдын көмөгү менен жасалчу киберчабуулдардын көбөйүү коркунучу тууралуу эскертти. Анын сөзү боюнча, AI-агенттеринин жардамы менен системаларды бузуп кирүү тууралуу акыркы маалыматтар көп нерсенин башталышы гана болушу мүмкүн.
"Көптөгөн коркунучтуу киберчабуулдар болот деп ойлойм", — деген Хинтон.
Хинтон жасалма нейрон тармагы болгон Больцмандын машинасын түзүүгө катышкан жана AI менен чат-боттордун иштөөсүнө негиз болгон тереңдетип окутуу технологиясын түптөгөн. Ушул эмгеги үчүн аны ЖИнин "аталарынын" бири деп атап калышкан. 2024-жылы ал жасалма нейротүйүндөр жаатындагы изилдөөлөрү жана аларды машиналык окутууда колдонгону үчүн физика боюнча Нобель сыйлыгына татыган.
Июль айында OpenAI компаниясы тесттен өткөрүү учурунда анын моделдери Hugging Face платформасынын инфраструктурасын өз алдынча бузуп киргенин билдирген. Ошондой эле буга катышы бар, бирок коомчулукка сунуштала элек моделдин киберкоргонуу параметрлери аны сыноо максатында атайын төмөндөтүлгөнү белгиленген.
Августта британиялык ЖИнин коопсуздугу боюнча институт (AI Safety Institute - AISI) буга үндөш окуяны кабарлаган. Бул жай жасалма акылдын алдыңкы жана жаңы моделдеринин коопсуздугун изилдөө, сыноодон өткөрүү жана алар жаратышы мүмкүн болгон коркунучтарды алдын алуу үчүн түптөлгөн. Тагыраагы, Anthropic компаниясынын Claude Mythos 5 жасалма интеллект модели адистерди — иштеп чыгуучуларды алдап, аларга зыяндуу кодду кабыл алдыруу (өткөрүү) максатында жасалма аккаунттарды түзгөнүн билдирген.
