FTC untersucht ChatGPT wegen Bedenken hinsichtlich Verbraucherschutz
Die US Federal Trade Commission (FTC) hat eine Untersuchung gegen OpenAI eingeleitet. OpenAI ist das Unternehmen aus San Francisco, das den bekannten KI-Chatbot ChatGPT entwickelt hat. Die FTC prüft, ob OpenAI gegen Gesetze verstoßen hat, die Kunden schützen und ihre persönlichen Daten gefährden könnten.
- Die FTC hat OpenAI eine 20-seitige Aufforderung zur Vorlage von Unterlagen zugesandt, um mehr über den Umgang des Unternehmens mit möglichen Problemen im Zusammenhang mit ihren KI-Modellen zu erfahren. Insbesondere prüft diese Regierungsbehörde, ob OpenAI unfair oder irreführend gehandelt hat und dadurch den Ruf von Menschen beschädigt hat.
- Die Untersuchung der FTC erstreckt sich auch auf einen Sicherheitsvorfall, den OpenAI im März 2023 bekannt gegeben hat. Ein Fehler in den Systemen von OpenAI ermöglichte es einigen Benutzern, zahlungsbezogene Informationen und Daten aus dem Chat-Verlauf anderer Benutzer einzusehen. Die FTC prüft, ob die Datenschutzpraktiken von OpenAI bei diesem Vorfall gegen Verbraucherschutzgesetze verstoßen haben.
- Die FTC fordert außerdem Informationen über etwaige Forschung, Tests oder Umfragen, die von OpenAI durchgeführt wurden, um herauszufinden, wie gut Verbraucher die „Genauigkeit oder Zuverlässigkeit der Ergebnisse“ verstehen, die von den KI-Tools des Unternehmens generiert werden. Darüber hinaus hat die FTC Details darüber angefordert, wie OpenAI seine Modelle an andere Unternehmen lizenziert.
- Die Untersuchung erfolgt vor dem Hintergrund früherer Bedenken hinsichtlich der Praktiken von OpenAI. Im März 2023 forderte das Center for AI and Digital Policy (CAIDP) die FTC auf, OpenAI wegen mutmaßlicher Verstöße gegen Verbraucherschutzvorschriften zu untersuchen. Es wurde darauf hingewiesen, dass die Einführung von KI-Textgenerierungstools „voreingenommen, irreführend und ein Risiko für die öffentliche Sicherheit“ sei. Das CAIDP wies auf potenzielle Bedrohungen durch OpenAIs GPT-4 generatives Textmodell hin, darunter die Erzeugung bösartiger Codes, maßgeschneiderte Propaganda und die Möglichkeit, dass voreingenommene Schulungsdaten zu unfairen Vorlieben bezüglich Rasse und Geschlecht führen.
- Die Untersuchung von OpenAI durch die FTC stellt einen bedeutenden Schritt im Interesse der Behörde an der Regulierung von KI-Tools dar. Die FTC hat zuvor davor gewarnt, dass voreingenommene KI-Systeme eine Durchsetzung von Maßnahmen nach sich ziehen könnten. Eine Untersuchung von OpenAI, einem der größten Akteure im Bereich der generativen KI, markiert eine wesentliche Eskalation in den Bemühungen der FTC.
Die FTC hat eine Untersuchung gegen OpenAI eingeleitet, um mögliche Verstöße gegen Verbraucherschutzgesetze im Zusammenhang mit ihrem KI-Chatbot ChatGPT zu prüfen. Die FTC fordert Unterlagen an, um mehr über OpenAIs Umgang mit möglichen Problemen und ihre Datenschutzpraktiken zu erfahren. Diese Untersuchung ist ein wichtiger Schritt in der Regulierung von KI-Tools und zeigt das wachsende Interesse der FTC an diesem Bereich.