Donderdag 01/12/2022

Artificiële intelligentie

Twee computers bedenken eigen geheimtaal (en niemand weet hoe het werkt)

Foto ter illustratie. Beeld AFP
Foto ter illustratie.Beeld AFP

Computers werden al getraind om te schaken, kunstwerken te maken en auto's te besturen. Maar nu komt Google Brain met een griezeligere toepassing van kunstmatige intelligentie (AI). Onderzoekers zijn erin geslaagd twee AI-systemen met elkaar te doen praten in een zelf gecodeerde taal, die niemand kan kraken.

Jill Casters

Google Brain is een onderzoeksprogramma waarin de internetreus experimenteert met kunstmatige intelligentie. De onderzoekers in het Google Brain-labo zijn gespecialiseerd in deep learning: computers leren zichzelf dan dingen aan op basis van een set algoritmen.

In dat kader verscheen recent een nieuwe paper in ArXiv van onderzoekers Martín Abadi en David G. Andersen. Zij slaagden erin AI-systemen met elkaar te laten communiceren in een zelf ontwikkelde cryptische taal, zonder menselijke tussenkomst. Een derde AI, die moest proberen de code te kraken, slaagde daar niet in.

Het team werkte met drie AI's, die Alice, Bob en Eve genoemd werden. Elke AI kreeg een duidelijke taak: Alice moest een geheime boodschap versturen naar Bob, Bob moest die boodschap decoderen, en Eve moest de twee proberen 'af te luisteren'.

Degelijke strategie

Aan geen van de AI's werd gezegd hoe ze hun boodschap moesten coderen of welke technieken ze daarvoor moesten gebruiken. Alice en Bob kregen enkel een vooraf overeengekomen key, een sleutel voor de code, waartoe Eve geen toegang had.

Aanvankelijk waren Alice en Bob slecht in het versturen van geheime boodschappen. Maar gaandeweg ontwikkelde Alice een degelijke encryptiestrategie en na 15.000 pogingen kon Bob Alices gecodeerde boodschap vlot omzetten in tekst terwijl Eve de code niet meer kon ontcijferen.

Op basis van de gecodeerde boodschappen stelden de onderzoekers vast dat Alice veel onverwachte technieken gebruikte, heel anders dan de technieken die gebruikelijk zijn bij door mensen ontwikkelde encryptiemethodes. Volgens de onderzoekers wijst hun studie erop dat robots in de toekomst in staat zullen zijn om met elkaar te praten op manieren die wij - of andere robots - niet kunnen ontcijferen.

Gevaren

De ontwikkelingen in de artificiële intelligentie gaan zodanig snel dat vooraanstaande wetenschappers en ondernemers zoals Stephen Hawking, Elon Musk en Bill Gates al meermaals waarschuwden voor de potentiële gevaren. Volgens fysicus Stephen Hawking kan AI zelfs het einde van de mensheid betekenen. Moet dit nieuwe onderzoek ons zorgen baren?

Volgens de onderzoekers moeten we ons geen zorgen maken dat machines binnenkort achter onze rug beginnen te praten. Computers hebben nog een lange weg af te leggen als ze ooit in de buurt willen komen van de gesofisticeerde encryptie door mensen. In vergelijking met de huidige - door mensen ontwikkelde - systemen, was Alices codering bijzonder simpel.

Meer dan een interessante oefening was dit experiment voorlopig niet. Omdat de onderzoekers niet weten welk soort encryptiemethode Alice gebruikte, zal de praktische toepassing in de technologie beperkt zijn. Bovendien zijn er geen garanties dat deze encryptiemethode goed beveiligd is.

Nu belangrijker dan ooit: steun kwaliteitsjournalistiek.

Neem een abonnement op De Morgen


Op alle artikelen, foto's en video's op demorgen.be rust auteursrecht. Deeplinken kan, maar dan zonder dat onze content in een nieuw frame op uw website verschijnt. Graag enkel de titel van onze website en de titel van het artikel vermelden in de link. Indien u teksten, foto's of video's op een andere manier wenst over te nemen, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234