Die KI-Firma Anthropic gilt als schärfster Rivale des ChatGPT-Entwicklers OpenAI. Jetzt könnten ihre Vorwürfe in Richtung China für neuen Zündstoff zwischen Washington und Peking sorgen.
San Francisco - Die KI-Firma Anthropic wirft dem chinesischen Alibaba-Konzern einen großangelegten Versuch vor, widerrechtlich Fähigkeiten seiner Software mit Künstlicher Intelligenz abzugreifen. Anthropic fordert deswegen vom US-Kongress Maßnahmen, die solche Attacken verhindern sollen, wie aus einem von der "Financial Times" veröffentlichten Brief an amerikanische Senatoren hervorgeht. Alibaba äußerte sich zunächst nicht zu den Vorwürfen.
Nach der Werbung weiterlesen
Dem Brief zufolge interagierten mit Alibaba verbandelte Angreifer über nahezu 25.000 betrügerische Accounts von Ende April bis Anfang Juni fast 29 Millionen Mal mit Anthropics KI-Software Claude. Dabei hätten sie mehr über zentrale Aspekte wie etwa den Aufbau der Software und deren Logik beim Ausführen von Aufgaben erfahren wollen.
Dabei hätten die Angreifer zu einer unter dem Begriff "Destillation" bekannten Methode gegriffen, bei der Entwickler neuer Software sie mit Künstlicher Intelligenz von einem bereits existierenden Modell anlernen lassen. Solche Zugriffe sind gemeinhin in Nutzungsbedingungen untersagt.
Tech-Milliardär Elon Musk räumte allerdings jüngst in einem Gerichtsverfahren ein, dass er mit dieser Technik seinen KI-Chatbot Grok von KI-Modellen des ChatGPT-Entwickler OpenAI lernen ließ. Anthropic gilt aktuell als der schärfste Rivale von OpenAI und warf chinesischen Unternehmen wiederholt vor, die Methode zu verwenden.
In dem Brief forderte Anthropic vom Kongress unter anderem ein härteres Vorgehen gegen chinesische Unternehmen, die zur "Destillation" greifen. Auch sollten amerikanische KI-Firmen die Freiheit bekommen, einander vor solchen Attacken zu warnen. Zudem ruft Anthropic dazu auf, den Zugang chinesischer Player zu Technik wie KI-Chips weiter einzuschränken.
Anthropic steckt dabei selbst in einem Konflikt mit der US-Regierung. Diese zwang die Firma jüngst, deren Top-Software mit Künstlicher Intelligenz vorläufig vom Markt zu nehmen. Zur Begründung wurde dabei auf angebliche Schwachstellen verwiesen, über die Einschränkungen des KI-Programms mit dem Namen "Fable 5" ausgehebelt werden könnten. Bei dem Programm ist unter anderem die Fähigkeit zur Suche nach Sicherheitslücken in anderer Software blockiert. Die Sorge ist, dass KI für Cyberattacken verwendet werden könnte. Anthropic konterte, die Probleme seien nicht schwerwiegend. Verhandlungen mit der US-Regierung zu der Sperre laufen noch.
