Google schorst medewerker vanwege… een chatbot met gevoelens?

Google heeft een medewerker geschorst vanwege een bijzondere reden. De man dacht dat zijn chatbot gevoelens zou kunnen uiten op een menselijke manier.

Blake Lemoine werkt op de afdeling AI (kunstmatige intelligentie) bij Google. Daar is hij sinds afgelopen herfst bezig met de ontwikkeling van een chatbot, die bij het bedrijf door het leven gaat als LaMDA. Volgens hem ging dat zo goed dat deze zelfs menselijke gevoelens en gedachten zou uiten op het niveau van een kind van acht jaar oud. Google denkt echter dat zijn medewerker gek is geworden en schorst hem nu.

Een chatbot met menselijke gevoelens?

Lemoine deelde zijn bevindingen met het bestuur van Google via een document. Dat was overigens geen probleem voor Google. Het bedrijf neemt het hem echter kwalijk dat hij zijn bevindingen heeft gedeeld in een interview met The Washington Post. Later stuurde hij zijn beweringen ook nog naar 200 andere medewerkers bij Google.

Hoe Google Assistant je binnenkort nog beter gaat begrijpen

In het interview liet Lemoine weten dat hij dacht dat de antwoorden overeenkomen met die van een kind van zeven of acht jaar oud. Een van de voorbeelden noemt is het volgende antwoord van de chatbot: “Ik heb dit nooit hardop gezegd, maar ik ben erg bang om afgesloten te worden. Dat zou voor me hetzelfde voelen als de dood.” Daarnaast zou het systeem ook laten weten dat het gevoelens heeft zoals vrolijkheid en verdriet.

Google niet blij

Voor The New York Times is het genoeg reden om verder in de zaak te duiken. Ze hebben Google dan ook om opheldering gevraagd. Het bedrijf laat weten dat het onderzoek heeft gedaan naar de beweringen van Lemoine. Voor zijn stelling is echter geen bewijs gevonden. Het bedrijf heeft Lemoine daarop meerdere keren aangeraden om in zee te gaan met een psychiater.

Menselijke gevoelens bij computers is een gevoelig onderwerp. Ethici hebben Google al meerdere keren gewaarschuwd om geen menselijke AI te maken. Er zijn natuurlijk al verschillende films over het onderwerp gemaakt. Daarin laten makers hun gedachten de vrije loop over wat er allemaal mogelijk is.

Onderwerpen

• Google