Millaisen uhkan tekoäly luo turvallisuuskriisissä

Tekoälyä, joka on suunniteltu vaikuttamaan päätöksiimme, on kaikkialla mutta miten se vaikuttaa päätöksentekoon kriisiaikoina?

Virginia Commonwealth -yliopiston tutkija Christopher Whyte , Ph.D., tutki, kuinka hätätilanteiden hallinnan ja kansallisen turvallisuuden ammattilaiset reagoivat simuloitujen tekoälyhyökkäysten aikana.

Tulokset paljastavat, että ammattilaiset epäröivät ja epäilivät kykyjään täysin tekoälyn aiheuttamien uhkien edessä verrattuna siihen, kun he kohtasivat ihmishakkereiden tai vain tekoälyn avustamia hakkereita.

"Nämä tulokset osoittavat, että tekoälyllä on tärkeä rooli saamassa osallistujia epäröivämmiksi ja varovaisiksi", hän sanoi, "paitsi melko rajallisissa olosuhteissa."

Kansalliset turvallisuusjärjestöt suunnittelevat koulutusohjelmansa vähentämään epäröintiä epävarmuuden hetkinä. Vaikka suurin osa tutkimukseen osallistuneista lähes 700 amerikkalaisesta ja eurooppalaisesta ammattilaisesta ajatteli, että tekoäly voisi parantaa ihmisen kykyjä, pieni ryhmä uskoi, että tekoäly voisi lopulta korvata täysin heidän ammattinsa ja inhimillisen asiantuntemuksen yleensä. Tämä ryhmä vastasi piittaamattomasti tekoälyyn perustuvaan uhkaan, hyväksyivät riskit ja etenivät hätäisesti eteenpäin.

"Nämä ovat ihmisiä, jotka uskovat, että tekoäly voi ohittaa kaiken heidän tekemänsä - heidän ammatillisen tehtävänsä ja tukemansa institutionaalisen tehtävänsä", Whyte sanoi.

Whytella on teoria siitä, miksi näin voi olla. Tekoäly on seuraava "suuri kone"

Aikakautensa "suuren miehen" teoria ehdottaa, että historian kulkua ovat muokanneet vahvat poliittiset hahmot, kun taas nykyajan historioitsijat antavat enemmän arvoa kansanliikkeille. Nyt Whyte ehdottaa, että historiaa ovat muokanneet myös muuttavat teknologiset keksinnöt, kuten lennätin tai radioaallot, ja väärä usko niiden voimaan - josta hän on luonut "suuren koneen" teorian.

Mutta toisin kuin "suuren miehen" teoria, Whyte sanoi, että "suuret koneet" ovat yhteinen, yhteiskunnallinen voima, jota voidaan valjastaa yhteiskunnan hyödyksi – tai sen vahingoksi.

"Esimerkiksi 1930-luvun puolivälissä tiesimme, että radioaalloilla on suuri potentiaali moniin asioihin", Whyte sanoi. "Mutta yksi varhaisista ideoista oli kuoleman säteet – ne voivat paistaa aivosi ja niin edelleen."

Kuolemansäteet tarttuivat kiinni ja inspiroivat sekä tieteiskirjallisia tarinoita että tosielämän yrityksiä rakentaa niitä ensimmäisen maailmansodan ja sotien välisenä aikana. Vasta muutama vuosi ennen toista maailmansotaa tiedemiehet alkoivat rakentaa jotain käytännöllistä radioaaltojen avulla: tutkaa.

Yhteiskunta kohtaa tällä hetkellä saman ongelman tekoälyn kanssa, Whyte sanoi, mitä hän kutsuu "yleiskäyttöiseksi" teknologiaksi, joka voi joko auttaa tai vahingoittaa yhteiskuntaa. Tekniikka on jo dramaattisesti muuttanut sitä, miten jotkut ihmiset ajattelevat maailmasta ja paikastaan ​​siinä.

"Se tekee niin monia erilaisia ​​asioita, että sinulla todella on tämä korvaava mentaliteetti", hän sanoi. "Kuten nyt, huomisen maailma näyttää täysin erilaiselta, ja minun paikkaani siinä ei yksinkertaisesti ole olemassa, koska [AI] muuttaa perusteellisesti kaiken."

Tämä ajattelutapa voi aiheuttaa ongelmia kansallisen turvallisuuden ammattilaisille, kun uusi teknologia muuttaa heidän ajatteluaan omista kyvyistään ja muuttaa tapaa reagoida hätätilanteisiin.

"Se on sellainen psykologinen tila, jossa joudumme valitettavasti hylkäämään sääntökirjan siitä, mitä tiedämme taistelevan ennakkoluuloa tai epävarmuutta vastaan", Whyte sanoi.

Kohdattuaan simuloinnissaan strategisen tekoälyyn perustuvan uhan ammattilaiset epäilivät koulutustaan ja epäröivät toimia. He myös todennäköisemmin pyysivät lisätiedustelutietoja verrattuna kahdessa muussa ryhmässä oleviin kollegoihinsa, jotka yleensä reagoivat tilanteeseen koulutuksensa mukaisesti.

Sitä vastoin osallistujat, jotka pitivät tekoälyä "suurena koneena", joka voisi korvata heidät täysin, toimivat rajoituksetta ja tekivät päätöksiä, jotka olivat ristiriidassa heidän koulutuksensa kanssa.

Ja vaikka kokemus ja koulutus auttoivat hillitsemään sitä, miten ammattilaiset reagoivat tekoälyn avustamiin hyökkäyksiin, ne eivät vaikuttaneet siihen, miten ammattilaiset reagoivat puhtaan tekoälytason uhkaan. Tämä voi muodostaa uhan, kun tekoälyhyökkäykset yleistyvät, Whyte sanoi.

"Ihmisillä on vaihtelevia näkemyksiä siitä, onko tekoäly lisäyksestä vai onko se todella jotain, joka korvaa heidät", Whyte sanoi. "Ja se muuttaa merkittävästi ihmisten reagointia kriisissä."

Aiheesta aiemmin: