---
title: Führender KI-Wissenschaftler warnt vor Sicherheitsrisiken durch biologische Fähigkeiten von Sprachmodellen
url: https://www.dataloco.com/de/fuhrender-ki-wissenschaftler-warnt-vor-sicherheitsrisiken-durch-biologische-fahigkeiten-von-sprachmodellen
published: 2026-11-11T16:21:53+00:00
language: de
section: Sicherheit
source: https://www.cnbeta.com.tw/articles/tech/1585556.htm
organizations: OpenAI
publisher: Dataloco
---

# Führender KI-Wissenschaftler warnt vor Sicherheitsrisiken durch biologische Fähigkeiten von Sprachmodellen

Ein ehemaliger Forscher von OpenAI, der jetzt als Chefwissenschaftler für künstliche Intelligenz tätig ist, hat vor schnell wachsenden Fähigkeiten von KI-Systemen in der Biologie gewarnt. Bei einer wissenschaftlichen Konferenz in Hongkong erklärte er, dass fortschrittliche KI-Modelle schnell einen kritischen Punkt erreichen könnten, an dem sie reale Schäden verursachen können.

Der Wissenschaftler betonte, dass KI-Systeme bereits im Bereich der Netzwerksicherheit Fähigkeiten mit praktischen Auswirkungen gezeigt haben, während biologische Fähigkeiten ähnliche Niveaus erreichen. Er warnte, dass die Entwicklung von KI im biologischen Bereich schwieriger zu kontrollieren sein könnte als in der Netzwerksicherheit. Sowohl chinesische Unternehmen als auch andere Firmen, die offene Modelle verwenden, müssen diese Sicherheitsbedenken ernst nehmen, sagte er.

In den letzten Jahren werden fortschrittliche KI-Systeme zunehmend in der Biowissenschaft, medizinischen Forschung und Arzneimittelentwicklung eingesetzt. Experten erwarten, dass KI die Arzneimittelprüfung und Entwicklung erheblich beschleunigen kann. Diese Fähigkeiten haben jedoch ein doppeltes Verwendungspotenzial: Sie könnten von böswilligen Akteuren missbraucht werden und neue biologische Sicherheitsrisiken schaffen.

Die Warnung erfolgt, während ein Unternehmen seine KI-Strategie vorantreibt. Am 4. November stellte das Unternehmen sein neues Flaggschiff-Modell vor und positionierte es als eines seiner wichtigsten Grundmodelle. Nach Daten eines KI-Bewertungsinstituts gehört dieses Modell zu den leistungsstärksten KI-Modellen in China.

Der Wissenschaftler offenbarte, dass sein Unternehmen die Möglichkeit erkundet, ein autonomes wissenschaftliches Labor zu schaffen, das KI-Systeme nutzen würde, um komplexe Forschungsprozesse unabhängig durchzuführen, einschließlich einiger biologischer Forschungsaufgaben. Er argumentierte, dass die größeren Herausforderungen in gesellschaftlicher Steuerung, organisatorischer Koordination und dem Aufbau von Sicherheitsüberwachungssystemen liegen.

Um potenzielle Risiken zu verringern, hat das Unternehmen während des Trainings seines Modells mehrere Sicherheitsmaßnahmen ergriffen. Es entfernte absichtlich Daten im Zusammenhang mit Softwareschwachstellen und Angriffsverhalten, behielt aber defensive Netzwerksicherheitskenntnisse. Bei der Biologie bewertet das Unternehmen intern, dass sein Modell zwar starke grundlegende biologische Kenntnisse hat, aber noch deutlich davon entfernt ist, unabhängig Versuchsabläufe zu entwerfen oder hochriskante Fähigkeiten zu entwickeln.

Der Wissenschaftler betonte, dass es in der Biologie schwieriger ist als in der Netzwerksicherheit, klar zwischen Angriffs- und Verteidigungsfähigkeiten zu unterscheiden. Dies bedeutet, dass Forscher bei der Risikobewertung von Modellen mit komplexeren Situationen konfrontiert werden, weshalb vor der Veröffentlichung strengere Tests erforderlich sind. Das Unternehmen arbeitet derzeit mit seinen Top-Sicherheitslaboren zusammen, um diese Fähigkeiten systematisch zu bewerten.

## This story in other languages

- [Español](https://www.dataloco.com/es/un-cientifico-de-tencent-advierte-sobre-los-riesgos-biologicos-inminentes-de-la-inteligencia-artificial)