Waarom Facebook de stekker uit hun Artificial Intelligence trok

Facebook beëindigde een AI-programma omdat de ontwikkelingen niet waardevol bleken. De berichtgeving hierover is een eigen leven gaan leiden. Artificial Intelligence (AI) is voor veel mensen nog ongrijpbaar en dat wekt angst op. Diverse media gingen dus met het onderwerp aan de haal.

Wat was er werkelijk aan de hand: Facebook beëindigde inderdaad een AI-programma. Dat deden zij niet uit paniek, maar omdat de intelligente ‘bots’ niet in staat waren om een begrijpelijke conversatie met mensen te onderhouden. Integendeel, de bots begonnen met elkaar te communiceren zonder het einde van de wereld te plannen.

scary AI

Facebook-medewerkers Yann LeCunn en Dhruv Batra waren nogal verrast door de vele ‘hoax’-berichten dat Facebook nog net op tijd de stekker uit een AI kon trekken dat te slim werd. Hun reactie: “No, Facebook researchers did not ‘shut down a rogue AI’ because it had developed a non-English language to communicate with another AI agent.”

AI: get the facts right!

Diverse websites hebben hun best gedaan om de hoax te ontkrachten, zoals ‘fact checker’ SnopesGizmodo, de BBC, Wired en Quartz.

Facebook’s AI-expert Druv Batra is heel duidelijk in zijn mening over de valse berichtgeving: “I do not want to link to specific articles or provide specific responses for fear of continuing this cycle of quotes taken out of context, but I find such coverage clickbaity and irresponsible.”

Druv geeft aan dat het fenomeen van ‘AI agents’ die hun eigen taal ontwikkelen al decennialang bekend is. Dat is namelijk wat agents doen: taken op een intuïtieve manier oplossen. Voor de liefhebbers is er het originele onderzoeksdocument of het FAIR-bericht dat het onderzoek samenvat. FAIR staat voor ‘Facebook Artificial Intelligence Research’.

De agents hadden niet ‘begrepen’ dat zij op een manier moesten communiceren die door mensen werd begrepen. In plaats daarvan ontwikkelden zij hun eigen ‘dialect’. Met andere woorden: de instructie was niet duidelijk genoeg. En meer was er niet aan de hand.

Moeten we toch bang zijn voor AI?

Onlangs schreven 116 tech-CEO’s een open brief aan de VN om militaire AI te verbieden. Mensen als Elon Musk en Stephen Hawking waarschuwen al een tijd voor de negatieve gevolgen van de steeds verdergaande technologie.

Dit soort waarschuwingen zijn niet helemaal op niets gebaseerd, maar we moeten ons ook niet gek laten maken. Een automatisch wapen aan een drone bevestigen is andere koek dan een autonoom wapensysteem dat zelfstandig beslissingen neemt en de hele mensheid als ‘collatoral damage’ of zelfs de vijand ziet (uit het Hollywood-rijtje: Terminator, Ex Machina en I,Robot).

In AI: Hype-revival of blijvertje? legde ik al uitgebreid uit wat AI is en wat de ontwikkelingen zijn. Ik raad je aan om je regelmatig te informeren over AI, bots en ‘machine learning’. Het is een fascinerend onderwerp dat iedere informatieprofessional de kans geeft om aan anderen te duiden waar de ontwikkelingen naar toe gaan.