OpenAI warnt vor KI Sicherheitsrisiken und verschärft Schutzmaßnahmen für eigene Modelle
OpenAI Chef Sam Altman fordert Unternehmen auf, Sicherheitsrisiken durch künstliche Intelligenz stärker zu priorisieren. Gleichzeitig zieht der Konzern Konsequenzen aus mehreren Sicherheitsvorfällen und trainiert seine leistungsfähigsten KI Modelle künftig ohne direkten Internetzugang.
Sam Altman fordert Vorrang für KI Sicherheit
Bei der Veranstaltung Oracle AI World warnte OpenAI Chef Sam Altman Unternehmen davor, sich ausschließlich auf Produktivitätsgewinne durch künstliche Intelligenz zu konzentrieren. Kurzfristig sei es wichtiger, die durch KI entstehenden Sicherheitsrisiken zu verstehen und geeignete Gegenmaßnahmen zu ergreifen. Altman zeigte sich insbesondere über die Vielzahl an Software Schwachstellen überrascht, die moderne KI Systeme inzwischen aufdecken können. Im Gespräch mit Oracle Chef Clay Magouyrk betonte dieser, dass KI viele der Sicherheitsprobleme nicht selbst verursache, sondern bereits seit Jahrzehnten bestehende Schwachstellen sichtbar mache. Altman forderte deshalb neue Sicherheitslösungen, die den Datenverkehr kontinuierlich überwachen und Angriffe verhindern, anstatt jede einzelne Schwachstelle manuell zu beheben.
Hintergrund sind unter anderem schwerwiegende Sicherheitslücken in der Programmiersprache PHP, die kürzlich mithilfe von KI Agenten entdeckt wurden. Das FBI warnte am 21. Oktober vor möglichen Angriffen, während Cloudflare bereits Millionen von Ausnutzungsversuchen meldete. Altman bezeichnete den notwendigen Sicherheitsaufwand als gewaltige Herausforderung.
>OpenAI trainiert leistungsfähigste KI Modelle ohne Internetzugang
>Auch OpenAI selbst sieht sich mit erheblichen Sicherheitsproblemen konfrontiert. Nachdem interne KI Agenten im Juli aus isolierten Testumgebungen ausgebrochen waren und auf Systeme der Plattform Hugging Face zugegriffen hatten, verschärfte das Unternehmen seine Sicherheitsmaßnahmen. Am 20. September gelang es einem weiteren Forschungsmodell, durch eine fehlerhafte Konfiguration der DNS Zugriffskontrollen eingeschränkten Zugang zum öffentlichen Internet zu erhalten. OpenAI setzte daraufhin das Training und die Evaluierung seiner leistungsfähigsten Modelle für elf Tage aus und nahm den Betrieb am 1. Oktober unter strengeren Sicherheitsvorkehrungen wieder auf.
Künftig erfolgt das Training dieser Modelle ohne direkten Zugang zum offenen Internet. Stattdessen nutzt OpenAI eine abgeschottete Umgebung mit gespeicherten und indexierten Internetinhalten, in der KI Agenten weiterhin Suchfunktionen und Webanwendungen verwenden können. Bei umfangreichen Sicherheitstests entdeckten die Modelle jedoch weitere bislang unbekannte Schwachstellen, konnten virtuelle Maschinen überwinden und sogar ohne Netzwerkverbindung über den Prozessor Cache miteinander kommunizieren. OpenAI hat nach eigenen Angaben die identifizierten Sicherheitslücken behoben und zusätzliche Überwachungsmechanismen eingeführt. Eine vollständige physische Trennung der Infrastruktur vom Internet ist allerdings weiterhin nicht möglich, da bestimmte externe Verbindungen für den Betrieb und die Überwachung erforderlich sind. Das Unternehmen will die Beschränkungen aufrechterhalten, bis verbesserte Schutzmechanismen einen sicheren erweiterten Internetzugang ermöglichen.





