Ці пагражаюць нам Тэрмінатары? Маск і 200 hi-tech кампаніяў занялі пазіцыю ў пытанні робатаў-забойцаў


Даследчыкі, працаўнікі і заснавальнікі 200 вядомых тэхналагічных кампаняў заявілі, што не будуць распрацоўваць баявых робатаў са штучным інтэлектам.

Сярод падпісантаў – Ілан Маск, заснавальнік SpaceX і Tesla Motors, Яан Талін, стваральнік Skype, заснавальнікі DeepMind – аддзялення Google, якое займаецца стварэннем інтэлекту для машын.

Плюсы ад выкарыстання тэрмінатара. Яны ж – мінусы

«Мы, што падпісаліся ніжэй, згодныя, што рашэнне аб знішчэнні чалавечага жыцця ніколі не павінна быць даверана машыне… Мы не будзем удзельнічаць ці падтрымліваць распрацоўку, выраб, гандаль ці выкарыстанне смяротнай аўтаномнай зброі», – гаворыцца ў тэксце.

Падпісанты адзначаюць, што іх абяцанне мае як маральны, гэтак і прагматычны бок. Па-першае, машына не можа несці адказнасці за свае ўчынкі. Гэта значыць, будзе незразумела каго караць за тое, што яна забярэ жыццё ў чалавека.

Па-другое, з’яўленне такіх машын, якія самі знаходзяць, выбіраюць і прымаюць рашэнне аб знішчэнні сваіх цэляў без удзелу чалавека, будзе вельмі дэстабілізуючым для любой краіны і для кожнай чалавечай асобы.

Уладальнікі такіх машын змогуць забіваць людзей ананімна, без рызыкі і вельмі лёгка.

Супраць уласнага насельніцтва?

«Тысячы даследчыкаў штучнага інтэлекту згодныя ў тым, што… [у такім выпадку] лятальная аўтаномная зброя можа стаць магутным інструментам гвалту і прыгнёту, асабліва ў спалучэнні з сістэмамі назірання і базамі дадзеных», – адзначаюць падпісанты.

Пры гэтым цяпер такая зброя не абмежаваная міжнародным заканадаўствам, у сувязі з чым у любы момант можа пачацца гонка ўзбраенняў у гэтай сферы.

Зварот заклікае ўрады і палітыкаў стварыць сурʼёзныя міжнародныя прававыя барʼеры ў сферы ваеннага штучнага інтэлекту. У адсутнасць гэтых нормаў у дадзены момант падпісанты заклікаюць сваіх калегаў, а таксама ўсіх астатніх далучацца да іхняй дэкларацыі.

Тэрмінатар магчымы? Навошта?

Шматлікія юрыдычныя, вайсковыя і этычныя пытанні яшчэ не вырашаныя, аднак ужо ў 2030 года вайсковыя баявыя робаты могуць стаць цалкам аўтаномнымі, лічаць аўтары даследавання «Прагноз доўгатэрміновай будучыні стралковай зброі 2022-2042».

Гэтае даследаванне выйшла пад грыфам Дэпартамента Сухапутных войск ЗША ў 2012 годзе, аднак рассакрэчанае было нядаўна.

Пры гэтым страляць робаты будуць значна эфектыўней, чым чалавек – біямеханічная сістэма чалавека не вельмі падыходзіць да механічнай задачы трапнай стральбы. Пастава, оптыка чалавечага вока і шматлікія іншыя фактары абмяжоўваюць магчымасць чалавека трапна страляць і цалкам вырашыць гэтыя праблемы тэхналагічна немагчыма.

Стральба – гэта найперш алгарытмічная задача з канкрэтнымі геаметрычнымі і фізічнымі параметрамі, а гэта як раз тое, у чым робаты лепш людзей, адзначаецца ў даследаванні.

Паветра, мора, космас, інтэрнэт

Беспілотнік на выставе MILEX-2017. Фота – Лявон Каржакевіч

Акрамя таго, выкарыстанне тэхналогіяў «стэлс», развіццё новых тыпаў зброі, размяшчэнне гэтай зброі на касмічнай арбіце Зямлі – напрыклад, гіпергукавых ракет – можа прывесці да таго, што ўдар імі ў любую кропку планет зможа быць нанесены за лічаныя хвіліны.

Гэта не пакіне магчымасці з дастатковай хуткасцю адрэагаваць чалавеку-аператару сістэм супрацьракетнай абароны. Такім чынам абарону ад такой зброі можна будзе даверыць толькі аўтаматычным сістэмам абароны – робатам, якія будуць прымаць рашэнне на адкрыццё агню за лічаныя секунды.

Пераход на цалкам беспілотную баявую авіяцыю здымае неверагодную колькасць праблем і задач, якія вымушаныя вырашаць сучасныя ваенна-паветраныя сілы. Здымаюцца абмежаванні па перагрузках, якія не мог ператрываць нават добра падрыхтаваны пілот, здымаюцца амаль усе праблемы маральна-псіхалагічнай падрыхтоўкі дый проста ў самалёце вызваляецца вялікі абʼём месца, якое можна запоўніць дадатковай апаратурай і зброяй.

Больш за тое, працэсы мініяцюрызацыі могуць прывесці да стварэння зграяў адносна недарагіх баявых машын-камікадзэ, якія будуць разлічаныя на прарыў абароны праціўніка коштам пэўнага адсотку непазбежных стратаў. Пасля якіх у падкантрольнае паветра будуць залятаць больш дарагія вялікія цяжкаўзброеныя беспілотныя апараты.

У канцы 2017 года Агенцыя перспектыўных абарончых даследаванняў (DARPA) Міністэрства абароны ЗША выпрабавала мноства невялікіх аўтаномных беспілотнікаў, якія былі скінутыя ў паветра. Апараты былі звязаныя паміж сабой у адзіную сетку такім чынам, што ўтварылі адзіны прымітыўны штучны «мозг» і падобна да рою насякомых дэманстравалі калектыўныя паводзіны.

Таемныя кібер-войны ўжо вядуцца дзяржаўнымі спецыяльнымі службамі і нелегальнымі арганізацыямі з выкарыстаннем аўтаномных праграм, ботаў і вірусаў. Пакуль невядома пра забойства чалавека праз інтэрнет, аднак вельмі лёгка ўявіць, як спецыяльна распрацаваная праграма, запушчаная ва ўнутраную сетку шпіталя, адбірае па нейкім параметры ахвяраў і адключае ім сістэмы забеспячэння жыцця ці прапісвае ім лекі, якія іх забʼюць.

На полі бою

Беспілотнік X-47B на амерыканскім авіяносцы «Гары Трумэн». Фота wikipedia.org

Ужо зараз кампʼютары стаяць на баявых караблях, у танках і самалётах, дапамагаюць кіраваць агнём артылерыі. Усё больш функцый аўтаматызуюцца, каб дабіцца нават мінімальнай перавагі перад праціўнікам у хуткасці ацэнкі сітуацыі і перадачы загадаў.

Вайсковыя рабатызаваныя лятучыя і плаваючыя сістэмы ўжо існуюць і выкарыстоўваюцца ў баявых дзеяннях ці выпрабоўваюцца. Праўда, каманды на адкрыццё агню ім пакуль даюць людзі – аператары, якія вядуць бой за сотні, а магчыма і тысячы кіламетраў ад праціўніка.

Аляксандр Гелагаеў, belsat.eu

Глядзі таксама
Каментары