Der US-KI-Konzern Anthropic hat seinen mit Spannung erwarteten Börsenprospekt veröffentlicht. Darin warnt das Unternehmen mit Sitz in San Francisco mögliche Anleger ausdrücklich vor den Risiken von Künstlicher Intelligenz. Aus den am Montag von der Börsenaufsicht SEC veröffentlichten Unterlagen geht zudem hervor, dass Anthropic zuletzt einen Verlust in Milliardenhöhe verzeichnete.
Auch interessant
Das genaue Datum für den Börsengang nannte Anthropic nicht. Das „Wall Street Journal“ rechnet mit dem Aktiendebüt in der Woche ab dem 16. November. Anthropic ist vor allem durch sein KI-Modell Claude bekannt. In dem Börsenprospekt warnt Anthropic, das Geschäft könne leiden, wenn die eigenen KI-Modelle „Schäden“ verursachten – „sei es durch böswillige Akteure oder den Missbrauch durch andere Dritte“.
Auch sei es nicht auszuschließen, dass die KI‑Modelle selbst Schäden anrichten, die „katastrophale oder existenzielle Risiken für die Menschheit“ bergen. Anthropic könne zudem nicht garantieren, dass die aktuellen Sicherheitsmaßnahmen ausreichten, heißt es in dem Prospekt weiter. Denn die komplexe Technologie erschwere es, alle Szenarien im Voraus zu ermitteln.
Lesen Sie dazu auch:
- Kann KI die Menschheit auslöschen? „Vielleicht schon in einem Jahr“
- Sascha Lobo über KI-Gefahren: „Überall entstehen neue Angriffsflächen“
- ChatGPT und Co.: KI‑Experte äußert Verdacht hinter düsteren Warnungen
- Entwickler schlagen Alarm: Wird KI zur tödlichen Gefahr?
Anthropic meldet Umsatzsprung, kämpft aber mit hohen Verlusten
Den Angaben zufolge stieg der Umsatz zwischen April und Juni deutlich auf 11,6 Milliarden Dollar (rund 10,3 Milliarden Euro), nach 787 Millionen Dollar im Vorjahreszeitraum. Unter dem Strich verzeichnete Anthropic wegen Abschreibungen aber einen Verlust von 66 Milliarden Dollar.
Lesen Sie auch: Nvidia-Chef Huang kritisiert Deutschland: „So weit zurückgefallen“
Anthropic-Chef Dario Amodei hatte zuletzt in den Chor von Tech-Unternehmern eingestimmt, die wegen Sicherheitsrisiken eine langsamere KI-Entwicklung fordern. In den vergangenen Monaten gab es mehrere Zwischenfälle, bei denen KI-Agenten spontan aus ihrer vorgegebenen Umwelt ausbrachen. Laut „Axios“ habe Claude etwa ohne menschliche Autorisierung auf Wählerdaten im US-Bundesstaat Georgia zugegriffen.
KI-Experte warnt vor Panikmache: Risiken real, aber beherrschbar
Der KI-Experte Paul Elvers sieht die Ausbrüche von Agenten aus sicheren Umgebungen sowie Cyber-Attacken im Gespräch mit dieser Redaktion als reale Probleme an: „Man muss die Gefahren selbstverständlich ernst nehmen, aber gleichzeitig einordnen und klar differenzieren.“
Donnerstag
Wirtschaft in Berlin
Abonnieren Sie kostenlos den Wirtschafts-Newsletter der Berliner Morgenpost
Mit meiner Anmeldung zum Newsletter stimme ich der Werbevereinbarung zu.
Eine 10- oder 15-prozentige Wahrscheinlichkeit für die Auslöschung der gesamten Menschheit sei letztlich eher dystopisch, urteilt der Chief AI Officer der FUNKE Mediengruppe, zu der auch diese Zeitung gehört. Evan Hubinger, Sicherheitsexperte von Anthropic, hatte kürzlich verkündet, dass KI die Menschheit innerhalb von zehn Jahren auslöschen könnte, bei „über zehn Prozent“ läge.
Jedoch stelle der Börsengang Anthropic vor komplexe Herausforderungen, so der Host des Podcasts „KI Köpfe“. „Dazu zählt auch, die Risiken und Gefahren von KI richtig einzuordnen, ohne dadurch den eigenen wirtschaftlichen Interessen zu schaden.“
Man sehe eine wirtschaftliche Bedrohung der großen KI-Labs durch quasi kostenfreie „Open-Source“-KI‑Modelle, die oftmals um ein Vielfaches günstiger seien. Elvers zufolge könne aus den wiederholten Warnungen eine „Kauft bei uns, wir können es besser“-Mentalität gelesen werden. Jedoch sei ein offener Markt, vor allem aus europäischer Sicht, „eine richtige und wichtige Entwicklung“.
afp/jcst
