Mega-Deals und Cyber-Angriffe:
SpaceX, Bezos und die Nachbeben der US-KI-Sperre

Auch Amazon-Gründer Jeff Bezos verstärkt seine KI-Aktivitäten massiv. Gemeinsam mit Vikram Bajaj baut er das neue KI-Labor „Prometheus“ auf, das bereits mit 41 Milliarden US-Dollar bewertet wird. Der Fokus liegt hierbei nicht auf Texten oder Bildern, sondern auf der physischen Welt:

Prometheus soll reale Daten aus der Produktion und dem Ingenieurwesen nutzen, um Prozesse wie Konstruktion, Materialtests und Fertigung durch KI zu beschleunigen und günstiger zu machen.

Nachdem die US-Regierung in der Vorwoche überraschend den Zugang zu Anthropics Modellen („Fable 5“ und „Mythos“) für Nicht-US-Bürger sperrte, wurden nun die technischen Hintergründe bekannt. Ein Hacker unter dem Pseudonym „Pliny the Liberator“ nutzte eine als „Pack Hunt“ bekannte Methode (einen koordinierten Multi-Agenten-Angriff), um die Sicherheitsrichtlinien von Fable 5 zu umgehen.

Durch die Kombination verschiedener Einzelanfragen konnte er die KI dazu bringen, gefährlichen Code für das Ausnutzen von Schwachstellen (wie Pufferüberläufe in Linux-Systemen) auszugeben. Dies alarmierte offenbar die US-Sicherheitsbehörden derart, dass ein sofortiger Exportstopp verhängt wurde.

Der Softwarekonzern Salesforce hat das Start-up Fin übernommen, um seine Position im Bereich der autonomen KI-Agenten weiter auszubauen. Die Technologie von Fin soll tief in die bestehenden CRM-Systeme und Workflows von Salesforce integriert werden, um den Kundenservice und unternehmensinterne Prozesse noch stärker als bisher ohne menschliches Zutun zu automatisieren.

Auf dem G7-Gipfel im französischen Évian rückte das Thema KI erneut ins politische Zentrum. Frankreichs Präsident Emmanuel Macron betonte in seiner Abschlussrede zwar die enormen Chancen der Technologie für Gesundheit und Produktivität, warnte jedoch eindringlich vor den Auswirkungen auf die internationalen Demokratien.

Er forderte die Staatengemeinschaft auf, internationale Regulierungen voranzutreiben, da nationale Alleingänge – auch mit Blick auf die jüngsten US-Verordnungen – nicht ausreichen würden.