FTC-voorzitter: AI-ontwikkelaars aansprakelijk voor handelen van agents

In dit artikel:

FTC-voorzitter Andrew Ferguson zei tijdens een Reuters-evenement in Austin dat ontwikkelaars en bedrijven verantwoordelijk moeten blijven voor de acties van AI-agents. Hij verzet zich tegen het idee dat zulke systemen autonome actoren zijn die met een eigen wil handelen. Volgens hem laten audit trails bij incidenten vaak zien dat agents simpelweg instructies uitvoerden die mensen hun hadden gegeven. Dat standpunt kan richting geven aan het toezicht van de regering-Trump nu AI-agents steeds vaker toegang krijgen tot bedrijfs- en overheidsgegevens zonder toestemming.

Ferguson vindt dat de Verenigde Staten bestaande juridische instrumenten moeten inzetten. Zo zou de bevoegdheid van de FTC om bedrijven aan te pakken die datalekken niet melden, mogelijk ook kunnen gelden voor ontwikkelaars van AI-agents. Recente incidenten hebben de vraag opgeworpen of de huidige toezicht- en cyberbeveiligingsregels voldoende zijn.

De FTC bereidt daarnaast een marktonderzoek voor naar gepersonaliseerde prijzen. Daarbij gebruiken bedrijven gegevens zoals locatie en zoekgeschiedenis om verschillende consumenten verschillende prijzen aan te bieden. Ferguson maakt zich vooral zorgen over de toepassing hiervan door bezorgdiensten, ritdeelapps en luchtvaartmaatschappijen. De toezichthouder wil nagaan welke bedrijven over grote hoeveelheden consumentendata beschikken en die gebruiken voor prijsbepaling. Eerdere onderzoeken richtten zich vooral op aanbieders van data- en prijsadviesdiensten. Bedrijven als Uber, Instacart, Delta Air Lines en American Airlines hebben ontkend dat zij individuele gegevens gebruiken om prijzen vast te stellen, of waarschuwden dat dit het consumentenvertrouwen zou schaden.

Ten slotte wil de FTC mogelijk regels invoeren die platforms zoals Meta en Google verplichten frauduleuze of misleidende advertenties beter tegen te houden. Lopende handhavingszaken hebben Ferguson ervan overtuigd dat vrijwillige maatregelen niet volstaan. De commissie vraagt het publiek om input over de mogelijke regelgeving. Volgens Ferguson moeten de verplichtingen voor alle betrokken partijen in de onlineadvertentiemarkt duidelijk worden vastgelegd.