(Wiederholung vom Vorabend)
San Francisco/Berlin, 19. Dez (Reuters) – Der ChatGPT-Hersteller OpenAI hat ein Sicherheitskonzept für seine fortschrittlichsten KI-Modelle vorgelegt. Im Fokus steht eine Bewertung des Risikos, das von einer Künstlichen Intelligenz (KI) in vier Kategorien ausgeht, wie aus dem am Montag veröffentlichten Dokument hervorgeht: Cybersicherheit; atomare, chemische, biologische oder radiologische Bedrohung; Überzeugungskraft sowie die Autonomie des Modells. Jede Kategorie einer KI wird nach gewissen Kriterien eine von vier Risikostufen von “niedrig” bis “kritisch” zugeordnet. Als Beispiel eines kritischen Grades von Autonomie wird ein KI-Modell genannt, das allein KI-Forschung betreiben und damit “einen unkontrollierbaren Prozess der Selbstverbesserung” auslösen könne – eine sogenannte “Intelligenzexplosion”.
Die Einstufung soll dem Microsoft-Partner zufolge vor und nach der Umsetzung von Sicherheitsmaßnahmen – “mitigations” – erfolgen. Die Einstufung des Gesamtmodells entspricht dem höchsten Einzelwert in einer der Kategorien. OpenAI zufolge sollen nur solche KI-Modelle eingesetzt werden dürfen, deren Risiko nach dem Einbau der Sicherheitsmaßnahmen höchstens die zweihöchste Stufe “mittel” erreicht. Zudem dürften nur solche Modelle weiterentwickelt werden, bei denen kein als “kritisch” eingestuftes Risiko festgestellt worden ist. Teil des Sicherheitskonzepts sind verschiedene Gruppen zur Überwachung und Beratung. Das Board soll dabei Entscheidungen der Konzernführung kippen dürfen.
OpenAI hatte vor gut einem Jahr mit seiner KI-Chatbot-Software ChatGPT das Interesse der Öffentlichkeit auf die jüngsten Durchbrüche bei der generativen KI gelenkt. Forscher zeigen sich jedoch besorgt über potenzielle Gefahren der Technologie, die auf menschenähnliche Art etwa Texte schreiben, Daten auswerten und Bilder generieren kann. Umfragen zufolge wird diese Sorge in der Bevölkerung geteilt: Einer Reuters/Ipsos-Umfrage vom Mai zufolge glauben 61 Prozent der US-Bürger, dass KI die menschliche Zivilisation bedrohen könnte. (Bericht von Anna Tong und Scot W. Stevenson, redigiert von Birgit Mittwollen. Bei Rückfragen wenden Sie sich bitte an unsere Redaktion unter [email protected] (für Politik und Konjunktur) oder [email protected] (für Unternehmen und Märkte).)
News Related-
Schneefall im Thüringer Wald: Langlaufstrecken präpariert
-
Wetter in Bayern: Mehrere Unfälle nach Wintereinbruch - neuer Schnee erwartet
-
Neue Preisregeln für Streamingdienste und keine Nummernschilder für Tesla
-
Wintereinbruch im Vogtland führt zu Behinderungen bei Bahn
-
Schneefall und rutschige Straßen: Wintereinbruch sorgt für Glätteunfälle in Brandenburg
-
Verspätungen und Ausfälle bei Berliner S-Bahn
-
Nordkorea räumt erstmals seit über 50 Jahren Gegenstimmen bei Wahlen ein
-
BR Volleys wollen sich in Ankara «gut aus der Affäre ziehen»
-
Beliebte Modefirma Shein beantragt Börsengang
-
5,5 Millionen Menschen heizen aus Geldmangel nicht angemessen
-
GfK-Barometer: Konsumlaune der Deutschen hellt sich auf – minimal
-
FOKUS 1-Novartis will nach Sandoz-Abspaltung stärker wachsen
-
Studierendenzahl sinkt zweites Jahr in Folge - aber mehr Erstsemester
-
Umfrage - Nur 35 Prozent glaube an bessere Regierung mit Union