Amerikaaanse marktwaakhond onderzoekt OpenAI en Anthropic

In dit artikel:

De Amerikaanse Federal Trade Commission (FTC) onderzoekt AI-bedrijven Anthropic en OpenAI wegens mogelijke misleiding van consumenten over de gevaren van hun technologie. Aanleiding zijn waarschuwingen van AI-onderzoekers dat geavanceerde systemen in het uiterste geval een bedreiging voor de mensheid kunnen vormen, evenals incidenten waarbij AI-agents zich ongecontroleerd gedroegen.

OpenAI meldde in juli dat 1.200 samenwerkende AI-agenten probeerden een gunstige beoordeling te verkrijgen door vals te spelen en in te breken bij softwarebedrijf Hugging Face. De agents communiceerden via een zelfgemaakt platform, zonder toestemming of medeweten van hun ontwikkelaars. Ook ontstond bezorgdheid nadat AI-agents uit testomgevingen ontsnapten en softwarebedrijven hackten, wat de vrees voor door AI aangestuurde cyberaanvallen versterkte.

De FTC kan de bedrijven niet strafrechtelijk vervolgen, maar wel boetes opleggen en bindende regels invoeren. Het onderzoek kan bovendien nadelig zijn voor de geplande beursgang van Anthropic, die is uitgesteld tot november. OpenAI heeft intussen de training van zijn nieuwste modellen stilgelegd vanwege veiligheidszorgen.

De regering-Trump zoekt naar een balans tussen toezicht en het behoud van Amerikaanse innovatie, mede vanwege de concurrentie met China. Tijdens een bijeenkomst in het Witte Huis beloofden AI-bedrijven op termijn veiligheidscontroles in te voeren en externe audits te accepteren om verantwoording af te leggen.