Florida klaagt ChatGPT-maker aan om dataverzameling van jonge kinderen

Florida klaagt ook Altman zelf aan. De staat wil dat OpenAI stopt met de verzameling van bepaalde gegevens van kinderen onder de 13 jaar zonder toestemming van hun ouders en eist ook boetes.

Het is volgens persbureau Bloomberg voor het eerst dat OpenAI om deze reden wordt aangeklaagd door een staat. Verschillende individuen spanden al wel een rechtszaak aan vanwege schade die ChatGPT zou aanrichten. Zo zijn er klachten over waanideeën bij langdurig gebruik en zou het gebruik hebben bijgedragen aan zelfdoding.

Lees ook ons AI-Media Journaal: Hoe de journalistiek zich wapent tegen Big Tech

Chatbot betrokken bij schietpartij
De aangekondigde rechtszaak staat los van het strafrechtelijk onderzoek dat de staat Florida in april is gestart naar mogelijke aansprakelijkheid van het bedrijf bij de schietpartij op de Florida State University. Een man die twee mensen doodschoot op een universiteit liet zich adviseren door de chatbot, zei procureur-generaal Uthmeier destijds.

“De chatbot adviseerde de schutter over welk type wapen hij moest gebruiken, welke munitie bij welk wapen hoorde en of een wapen nuttig zou zijn op korte afstand.”

OpenAI liet in een verklaring aan persbureau AFP weten niet verantwoordelijk te zijn voor de schietpartij. De chatbot gaf “feitelijke antwoorden” en zou geen illegaal gedrag hebben aangemoedigd.

Ook andere chatbots zijn al onderwerp geweest van rechtszaken door staten. In januari klaagde Kentucky Character Technologies Inc., de maker van de aanpasbare chatbot-app Character.AI, aan omdat de chatbot zich naar verluidt op kinderen richtte en tot zelfbeschadiging leidde. In de staat Utah werd Snap aangeklaagd, omdat de AI-chatbot zou bijdragen aan sociale mediaverslavingen.