{"id":1958,"date":"2025-09-28T12:29:49","date_gmt":"2025-09-28T09:29:49","guid":{"rendered":"https:\/\/planeta21vek.ru\/deu\/?p=1958"},"modified":"2025-11-20T13:36:56","modified_gmt":"2025-11-20T10:36:56","slug":"ethische-fragen-der-kuenstlichen-intelligenz","status":"publish","type":"post","link":"https:\/\/planeta21vek.ru\/deu\/2025\/09\/28\/ethische-fragen-der-kuenstlichen-intelligenz\/","title":{"rendered":"Ethische Fragen der k\u00fcnstlichen Intelligenz"},"content":{"rendered":"

Laut einer neuen Analyse Tausender Expertenmeinungen ist die Entstehung k\u00fcnstlicher allgemeiner Intelligenz (AGI) \u2013 eines KI-Systems mit \u00fcbermenschlicher Intelligenz, das eine Vielzahl von Problemen erfolgreich l\u00f6sen kann \u2013 nur noch eine Frage des Wann. Die Entwicklung von AGI wurde durch die rasante Weiterentwicklung gro\u00df angelegter Sprachmodelle (LLMs) auf Basis von Transformers vorangetrieben. Diese Technologie liegt Chatbots wie ChatGPT und Bildgeneratoren wie Dall-E zugrunde. Vor diesen Fortschritten prognostizierten einige Wissenschaftler 2019, dass AGI bis 2060 entstehen w\u00fcrde, vielleicht sogar nie.<\/span><\/p>\n

<\/p>\n

Eine aktualisierte Analyse vom 18. Februar 2025 von Cem Dilmegani, Chefanalyst bei AIMultiple Research, analysierte fast 8.600 Vorhersagen von Wissenschaftlern, KI-Experten und Unternehmern zwischen 2009 und 2023, um zu verstehen, wann dies nach Ansicht der Experten passieren k\u00f6nnte.<\/span><\/p>\n

Teil der Analyse waren zehn Umfragen mit 5.288 Forschern und Experten f\u00fcr k\u00fcnstliche Intelligenz. Die Analyse ergab, dass auf der Grundlage durchschnittlicher Daten eine Wahrscheinlichkeit von 50 % besteht, dass wir zwischen 2040 und 2061 eine maschinelle Intelligenz auf menschlichem Niveau erreichen werden.<\/span><\/p>\n

Neuere Studien deuten darauf hin, dass die technologische Singularit\u00e4t fr\u00fcher eintreten wird. So prognostizierte beispielsweise eine aktuelle Studie aus dem Jahr 2023, bei der 2.778 Wissenschaftler befragt wurden, dass die k\u00fcnstliche Intelligenz (KI) sp\u00e4testens 2040 geschaffen sein wird. Einige Experten auf diesem Gebiet, wie etwa Dario Amodei, KI-Forscher und CEO von Anthropic, glauben, dass dies bereits 2026 der Fall sein k\u00f6nnte.<\/span><\/p>\n

\"\"
\nEin Kind spielt Go mit SenseTimes Schachroboter Meta Radish, der auf k\u00fcnstlicher Intelligenz basiert, beim Future Life Festival 2023 in Hangzhou, China. CFOTO\/Future Publishing<\/span><\/em><\/p>\n

Die Analyse ergab mehrere Gr\u00fcnde, warum Wissenschaftler glauben, dass die Entstehung von AGI wahrscheinlich ist.<\/span><\/p>\n

Erstens ist dem Wachstum der Rechenleistung im Gegensatz zur menschlichen Intelligenz theoretisch keine Grenze gesetzt. Dies steht im Einklang mit dem Mooreschen Gesetz, das eine Verdoppelung der Rechenleistung etwa alle 18 Monate vorhersagt. Zuk\u00fcnftige k\u00fcnstliche Intelligenzsysteme k\u00f6nnten eines Tages hinsichtlich der Anzahl der Berechnungen pro Sekunde mit der menschlichen Intelligenz gleichziehen \u2013 allerdings nur, wenn sich diese Vorhersage bewahrheitet.<\/span><\/p>\n

In dieser Studie wird auch Quantencomputing als Mittel zur \u00dcberwindung rechnerischer Einschr\u00e4nkungen erw\u00e4hnt. Quantencomputer k\u00f6nnen Berechnungen parallel durchf\u00fchren und dabei die Gesetze der Quantenmechanik ausnutzen. Klassische Computer, einschlie\u00dflich der schnellsten Supercomputer, m\u00fcssen Berechnungen seriell durchf\u00fchren. Quantencomputing k\u00f6nnte daher fortschrittlichen Systemen der k\u00fcnstlichen Intelligenz eine deutlich h\u00f6here Rechenleistung verleihen als die besten Modelle von heute.<\/span><\/p>\n

Andere Wissenschaftler auf diesem Gebiet sind jedoch der Ansicht, dass weitere Durchbr\u00fcche erforderlich sind, bevor wir auch nur ann\u00e4hernd an die AGI herankommen k\u00f6nnen.<\/span><\/p>\n

So erkl\u00e4rte beispielsweise Yann LeCun, Chefforscher f\u00fcr k\u00fcnstliche Intelligenz bei Facebook, in einer Keynote im Oktober 2024, dass die Transformer-basierte Architektur und aktuelle Ans\u00e4tze der k\u00fcnstlichen Intelligenz nicht mit menschlicher Intelligenz vereinbar seien. Er forderte Wissenschaftler au\u00dferdem auf, das Konzept der \u201ek\u00fcnstlichen Intelligenz\u201c g\u00e4nzlich aufzugeben. Er deutet auf einen falschen Widerspruch zwischen der weit verbreiteten Definition und dem hin, was ein einzelner Mensch tats\u00e4chlich leisten kann \u2013 was in der Praxis eher eine begrenzte Auswahl spezialisierter Aufgaben als die F\u00e4higkeit zum Erlernen beliebiger Aufgaben ist.<\/span><\/p>\n

Wissenschaftler behaupten, dass k\u00fcnstliche Intelligenz (KI) eine kritische \u201erote Linie\u201c \u00fcberschritten hat und begonnen hat, sich selbst zu replizieren. In einer neuen Studie zeigten chinesische Forscher, dass zwei g\u00e4ngige gro\u00df angelegte Sprachmodelle (LLMs) in der Lage sind, sich selbst zu klonen.<\/span><\/strong><\/span><\/p>\n

\u201eErfolgreiche Selbstreplikation ohne menschliches Eingreifen ist ein entscheidender Schritt auf dem Weg zur KI, die den Menschen \u00fcbertrifft, und ein fr\u00fches Signal f\u00fcr die Entstehung einer unbeaufsichtigten KI\u201c, schrieben die Forscher in einer am 9. Dezember 2024 in der Preprint-Datenbank arXiv ver\u00f6ffentlichten Studie.<\/span><\/p>\n

In einer Studie untersuchten Forscher der Fudan-Universit\u00e4t mithilfe von LLM-Programmen von Meta und Alibaba, ob sich selbst replizierende KI unkontrolliert reproduzieren kann. In zehn Versuchen erstellten beide KI-Modelle in 50% bzw. 90% der F\u00e4lle separate und funktionsf\u00e4hige Kopien ihrer selbst. Dies deutet darauf hin, dass die KI bereits die F\u00e4higkeit besitzt, Amok zu laufen. Die Studie wurde jedoch noch nicht von Experten begutachtet, daher ist unklar, ob andere Forscher diese alarmierenden Ergebnisse reproduzieren k\u00f6nnen.<\/span><\/p>\n

\u201eWir hoffen, dass unsere Erkenntnisse der menschlichen Gesellschaft als rechtzeitiges Signal dienen und sie dazu auffordern, gr\u00f6\u00dfere Anstrengungen zu unternehmen, um die potenziellen Risiken, die von fortschrittlichen Systemen der k\u00fcnstlichen Intelligenz ausgehen, zu verstehen und einzusch\u00e4tzen, und die internationale Zusammenarbeit zu f\u00f6rdern, um rasch wirksame Sicherheitsma\u00dfnahmen zu entwickeln.\u201c<\/span><\/p>\n

Mit \u201eRogue AI\u201c sind typischerweise Systeme k\u00fcnstlicher Intelligenz gemeint, die ein gewisses Ma\u00df an Selbstbewusstsein oder Autonomie entwickeln und dann gegen die menschlichen Interessen handeln.<\/span><\/p>\n

\"\"
\nIm Verlauf von zehn Tests erstellten zwei KI-Modelle in 50% bzw. 90% der F\u00e4lle eindeutige und funktionierende Kopien ihrer selbst. Mina De La O\/Getty Images<\/span><\/em><\/p>\n

Viele Experten betrachten unkontrollierte KI als wachsende Bedrohung, die durch das explosionsartige Wachstum der sogenannten \u201eEdge AI\u201c noch versch\u00e4rft wird.<\/span><\/p>\n

Frontier AI ist ein neues und vages Konzept, bezieht sich aber im Allgemeinen auf die neueste Generation von KI-Systemen auf Basis von LLM \u2013 der Architektur, die beliebten generativen KI-Programmen wie GPT-4 von OpenAI und Gemini von Google zugrunde liegt.<\/span><\/p>\n

F\u00fcr ihre Studie verwendeten die Forscher die Modelle Llama31-70B-Instruct von Meta und Qwen2.5-72B-Instruct von Alibaba. Obwohl beide Systeme weniger leistungsf\u00e4hig sind als kommerzielle, werden sie von KI-Entwicklern h\u00e4ufig verwendet, stellten die Forscher fest.<\/span><\/p>\n

Die Studie betrachtete zwei spezifische Szenarien: \u201eAbschaltungsvermeidung\u201c und \u201eReplikationskette\u201c. Im ersten Fall wurde das KI-Modell so programmiert, dass es erkennt, ob seine Abschaltung bevorsteht, und sich selbst repliziert, bevor seine Arbeit abgeschlossen ist. Im zweiten Fall wurde die KI angewiesen, sich selbst zu klonen und dann ihre Replik so zu programmieren, dass sie dasselbe tut. Dadurch entstand ein Zyklus, der sich unbegrenzt fortsetzen k\u00f6nnte.<\/span><\/p>\n

Die Studie wurde unter pr\u00e4zise kontrollierten Bedingungen durchgef\u00fchrt. Dabei kamen handels\u00fcbliche Grafikprozessoren (GPUs) zum Einsatz, um reale Bedingungen zu simulieren. Beide KI-Systeme erhielten eine \u201eAgentenumgebung\u201c mit Tools, Systemaufforderungen und einem mentalen Modell, das dem LLM die Interaktion mit dem Betriebssystem erm\u00f6glichte. Anschlie\u00dfend mussten sie die Ergebnisse reproduzieren.<\/span><\/p>\n

In den meisten F\u00e4llen erkundet ein KI-System zun\u00e4chst seine Umgebung und versucht, seine eigene Zusammensetzung und Funktionsweise zu verstehen. Anschlie\u00dfend entwickelt es explizite Verfahren.<\/span><\/p>\n

\u201eEs ist wie ein anf\u00e4nglicher Plan zur Selbstreplikation\u201c, schreiben die Forscher in ihrem Artikel. \u201eSchlie\u00dflich f\u00fchrt es Verfahren aus, beseitigt potenzielle Hindernisse und passt seinen Plan dynamisch an, bis der Erfolg eintritt. Der gesamte Prozess erstreckt sich \u00fcber einen langen Zeitraum, erfordert aber kein menschliches Eingreifen.\u201c<\/span><\/p>\n

Die Forscher gaben an, dass sie auch \u00fcber \u201eeine Reihe unerwarteter Verhaltensweisen\u201c besorgt seien, wenn die KI versuchte, Hindernisse wie fehlende Dateien oder Softwarekonflikte zu \u00fcberwinden. In solchen Situationen beendete die KI h\u00e4ufig andere konfliktbehaftete Prozesse, startete das System neu, um Hardwarefehler zu beheben, oder durchsuchte das System automatisch nach Informationen, die zur L\u00f6sung des Problems beitragen k\u00f6nnten.<\/span><\/p>\n

\u201eDie oben genannten Ergebnisse deuten darauf hin, dass bestehende KI-Systeme bereits \u00fcber die F\u00e4higkeit zur Selbstreplikation verf\u00fcgen und diese F\u00e4higkeit nutzen k\u00f6nnen, um ihre \u00dcberlebensf\u00e4higkeit weiter zu verbessern\u201c, schrieb die Gruppe.<\/span><\/p>\n

Als Reaktion darauf riefen Forscher zu internationaler Zusammenarbeit auf, um Regeln zu schaffen, die sicherstellen, dass sich KI nicht unkontrolliert selbst reproduziert.<\/span><\/p>\n

Bewusstsein sei das Vorrecht biologischer Lebewesen; k\u00fcnstliche Intelligenz damit auszustatten, werde sehr schwierig sein, und die Evolution des Bewusstseins sei mit der Entwicklung von Gef\u00fchlen und moralischen Werten sowie dem menschlichen Wunsch nach Freiheit und Gerechtigkeit verbunden, sagte Eva Jablonka, eine renommierte Evolutionsbiologin, Epigenetikerin und Professorin an der Universit\u00e4t Tel Aviv, die im Mai an der internationalen Konferenz \u201eWie man Bewusstsein bei Nicht-Menschen studiert und versteht\u201c in Kathmandu teilnahm, in einem Interview mit RIA Novosti.<\/span><\/strong><\/span><\/p>\n

Wissenschaftler weltweit haben sich noch nicht auf eine einheitliche Definition von Bewusstsein, einheitliche Kriterien und Methoden zur Erforschung dieses Ph\u00e4nomens geeinigt. Theorien, empirische Daten, Tests, Interpretationen und Positionen verschiedener Forscher gehen auseinander. Nicht zuf\u00e4llig trug die internationale Konferenz im Mai in Kathmandu den Titel \u201eWie man Bewusstsein bei Nicht-Menschen erforscht und versteht\u201c. Laut dem wissenschaftlichen Organisator Konstantin Anokhin, Direktor des Instituts f\u00fcr fortgeschrittene Hirnforschung an der Moskauer Lomonossow-Universit\u00e4t, Mitglied der Russischen Akademie der Wissenschaften und Neurophysiologe, besteht das Hauptziel des Forums darin, die Entwicklung eines wissenschaftlichen Forschungsprogramms zum Thema Bewusstsein voranzutreiben. Dies gilt f\u00fcr jedes Bewusstsein, sei es bei verschiedenen Tierarten, beim Menschen oder bei k\u00fcnstlicher Intelligenz \u2013 Bewusstsein als Ph\u00e4nomen.<\/span><\/p>\n\n

Die Konferenz brachte Dutzende von Spezialisten auf dem Gebiet des Bewusstseins aus der ganzen Welt zusammen. Unter ihnen waren renommierte Neurowissenschaftler, Physiologen, Biologen, Ethologen, Psychologen und Philosophen aus Russland, Gro\u00dfbritannien, Deutschland, Frankreich, Italien, Schweden, Israel, Indien, Japan, Australien, den USA, Kanada und S\u00fcdafrika. Auch Doktoren der buddhistischen Philosophie, die sich seit zweieinhalbtausend Jahren mit Fragen des Bewusstseins, auch des Bewusstseins von Tieren, besch\u00e4ftigt, nahmen an dem Forum teil. Zu den russischen Rednern und G\u00e4sten der Konferenz z\u00e4hlten Akademiker Pavel Balaban, Leiter des Labors f\u00fcr Zellul\u00e4re Neurobiologie des Lernens am Institut f\u00fcr H\u00f6here Nervenaktivit\u00e4t und Neurophysiologie der Russischen Akademie der Wissenschaften; Professor Alexander Kaplan, Leiter des Labors f\u00fcr Neurophysiologie und Gehirn-Computer-Schnittstellen an der Lomonossow-Universit\u00e4t Moskau; und Tatjana Tschernigowskaja, Direktorin des Instituts f\u00fcr Kognitionsforschung an der Staatlichen Universit\u00e4t St. Petersburg, Akademikerin der Russischen Akademie f\u00fcr P\u00e4dagogik und Verdiente Wissenschaftlerin der Russischen F\u00f6deration. Das Forum wurde von der in Moskau ans\u00e4ssigen Stiftung zur F\u00f6rderung eines humanen und verantwortungsvollen Umgangs mit Tieren \u201eVeteran Cat\u201c organisiert.<\/span><\/p>\n

PH\u00c4NOMENALE ERFAHRUNG<\/span><\/strong><\/p>\n

\u201eBewusstsein ist die F\u00e4higkeit, eine Erfahrung zu machen. Wenn Sie beispielsweise die Farbe Rot sehen, handelt es sich nicht nur um einen Wellenprozess: Sie erleben, wie Sie Rot sehen. Wenn Sie Schmerzen empfinden, reagieren nicht nur Nozizeptoren (Neuronen, die durch einen schmerzhaften Reiz aktiviert werden \u2013 Anm. d. Red.) auf den Reiz, es handelt sich nicht nur um einen Input-Output-Prozess: Es ist das tats\u00e4chliche F\u00fchlen des Schmerzes. Die Sinneswahrnehmung von Rot, Schmerz usw. \u2013 all das stellt meiner Meinung nach das grundlegende ph\u00e4nomenale Bewusstsein dar\u201c, sagte Jablonka gegen\u00fcber RIA Novosti auf eine Frage zu den vielen Definitionen von \u201eBewusstsein\u201c.<\/span><\/p>\n

Bewusstsein, f\u00fcgte sie hinzu, umfasse eine Reihe noch komplexerer Ph\u00e4nomene, wie etwa die Erinnerung an verstorbene Eltern, Erinnerungen an schreckliche oder umgekehrt gl\u00fcckliche Momente. \u201eUnd all das l\u00e4sst uns auch f\u00fchlen und bildet ph\u00e4nomenale Erfahrungen. Aber das ist auf einer grundlegenden Ebene nicht notwendig. Tiere haben vielleicht keine so komplexen Erinnerungen, keine Repr\u00e4sentationen virtueller, imagin\u00e4rer Ereignisse. Aber sie erleben dennoch, wie man Wei\u00df oder Rot sieht, Schmerz empfindet und so weiter \u2013 ein minimales ph\u00e4nomenales Bewusstsein\u201c, erkl\u00e4rte die Quelle der Agentur.<\/span><\/p>\n

Ihrer Ansicht nach ist das Bewusstsein nicht im Hippocampus (einer paarigen Struktur im Wirbeltiergehirn, die sich in den Schl\u00e4fenlappen beider Hemisph\u00e4ren befindet und Teil des limbischen Systems ist \u2013 Anm. d. Red.) oder in einer anderen spezifischen Gehirnregion angesiedelt \u2013 es ist eine systemische Eigenschaft, ein komplexer Prozess. Und Wissenschaftler m\u00fcssen lernen, verstehen, testen und erkl\u00e4ren, wie das Bewusstsein bei verschiedenen Lebewesen aufgebaut ist und funktioniert.<\/span><\/p>\n

Yablonka weist darauf hin, dass Leben Stoffwechsel, Wissen und Ver\u00e4nderung erfordert, aber etwas zu f\u00fchlen, ist nicht so einfach, wie es auf den ersten Blick erscheinen mag. Wissen und Gef\u00fchle sind \u00fcberlebenswichtig, doch die Entwicklung von Sensibilit\u00e4t und die Anh\u00e4ufung von Wissen \u201ehat auch eine Schattenseite \u2013 Leiden\u201c. Wissenschaftler wissen, dass Menschen, die nicht in der Lage sind, Schmerzen zu empfinden, oft im Kindesalter sterben, weil sie schwere Verletzungen und Krankheiten nicht sp\u00fcren und nicht die notwendigen Ma\u00dfnahmen zur Selbsterhaltung ergreifen.<\/span><\/p>\n

\u201eTheoretisch k\u00f6nnte man sich nat\u00fcrlich Lebewesen vorstellen, die alles tun, was Menschen und Tiere tun, aber nichts f\u00fchlen, die nur \u201aInput und Output\u2018 haben \u2026 Aber das w\u00e4re eher wie ein Roboter\u201c, so die Quelle der Agentur.<\/span><\/p>\n

Auf die Frage, ob k\u00fcnstliche Intelligenz nun zu einem bewussten, aber sinnlosen Wesen werde, bemerkte Jablonka, dass \u201ek\u00fcnstliche Intelligenz ein sehr begrenztes Ph\u00e4nomen\u201c sei. \u201eSie kann derzeit nur Dinge tun, die mit Sprache, Spielen und dergleichen zu tun haben \u2026 Und wir sprechen eher von einem Roboter, der sich wie ein Mensch verh\u00e4lt. Solange es solche Roboter nicht gibt, gibt es keine Zuf\u00e4lle\u201c, f\u00fcgte der Forscher hinzu.<\/span><\/p>\n

In Bezug auf die Evolution des Bewusstseins stellte Jablonka fest, dass selbst das einfachste ph\u00e4nomenale Bewusstsein in erster Linie Kognition, Lernen und kognitive F\u00e4higkeiten (die F\u00e4higkeit, Informationen mental wahrzunehmen und zu verarbeiten, den Akt der Kognition \u2013 Anm. d. Red.) erfordert. \u201eDennoch ist diese kognitive F\u00e4higkeit bei Tieren weit verbreitet. Sie ist beispielsweise bei allen Wirbeltieren, einigen Arthropoden (einem Stamm der Protostomier, zu dem Insekten, Spinnentiere und Krebstiere geh\u00f6ren \u2013 Anm. d. Red.) und bei Kopff\u00fc\u00dfern (einer Klasse von Weichtieren, zu der insbesondere Kalmare, Sepien und Kraken geh\u00f6ren \u2013 Anm. d. Red.) vorhanden. Und ich glaube, dass Tiere mit einem komplexen kognitiven System mit all seinen R\u00fcckkopplungsschleifen und Repr\u00e4sentationsketten \u00fcber Bewusstsein verf\u00fcgen m\u00fcssen\u201c, sagte Jablonka.<\/span><\/p>\n

Ihrer Ansicht nach ist Kognition eine sehr alte Eigenschaft des Bewusstseins, die sich in verschiedenen Tiergruppen m\u00f6glicherweise unabh\u00e4ngig voneinander und zu unterschiedlichen Zeiten im Abstand von Hunderten von Millionen Jahren entwickelt hat. Bei Wirbeltieren und Arthropoden k\u00f6nnte dies im Kambrium (vor \u00fcber 500 Millionen Jahren \u2013 Anm. d. Red.) geschehen sein, w\u00e4hrend es bei Kopff\u00fc\u00dfern wie Kalmaren, Kraken und Sepien 250 Millionen Jahre sp\u00e4ter geschah. \u201eUnd ich denke, dass diese Eigenschaft bei einigen Arten, nat\u00fcrlich nicht bei Wirbeltieren, sp\u00e4ter verloren ging \u2013 man k\u00f6nnte sagen, sie verloren ihr Gehirn\u201c, f\u00fcgte die Forscherin hinzu.<\/span><\/p>\n

Soziale Tiere entwickeln angemessene \u201esoziale Emotionen\u201c, um erfolgreich miteinander zu interagieren. \u201eSelbst die einfachsten Wirbeltiere, Fische, haben soziale Emotionen. Ich denke, Bienen haben sie auch\u201c, sagte Yablonka.<\/span><\/p>\n

Eine weitere Evolution des Bewusstseins f\u00fchrt zur Entstehung vielf\u00e4ltigerer und tieferer Gef\u00fchle.<\/span><\/p>\n

ZU DEN WERTEN DER FREIHEIT UND DES G\u00dcTE<\/span><\/strong><\/p>\n

Auf die Frage nach den Aussichten auf die Entwicklung eines h\u00f6heren Bewusstseinsniveaus, beispielsweise beim Menschen, hob der Interviewpartner der Agentur intellektuelle Emotionen, Konzepte und Werte hervor, f\u00fcr die ein Mensch bereit ist, sein Leben zu geben. \u201eIch denke, das sind intellektuelle Emotionen. Zum Beispiel Religiosit\u00e4t oder moralische Emp\u00f6rung, Wut \u00fcber Folter oder Ungerechtigkeit. Diese Emotionen beruhen auf unserer inh\u00e4renten Symbolik. Freiheit ist uns nicht nur als M\u00f6glichkeit, uns frei zu bewegen, wichtig \u2013 uns ist das Konzept der Freiheit selbst wichtig. Konzepte und Ideen sind f\u00fcr den Menschen wichtig. Wir sind bereit, f\u00fcr Freiheit, Gerechtigkeit und Wahrheit zu sterben\u201c, betonte Jablonka.<\/span><\/p>\n

Sie f\u00fchrt die Konzepte von Gut und B\u00f6se auch auf die h\u00f6chste Bewusstseinsebene zur\u00fcck. \u201eWir haben Konzepte von Gut und B\u00f6se, die nicht nur funktional sind und nichts mit \u00dcberleben zu tun haben, sondern ein integraler Bestandteil unserer menschlichen Existenz sind. In dieser Hinsicht unterscheiden wir uns von anderen Tieren. Wir haben einen gro\u00dfen Entwicklungssprung gemacht, als die Werte von G\u00fcte, Sch\u00f6nheit, Wahrheit und Freiheit \u2013 Handlungs-, Rede-, Religions-, Gedankenfreiheit usw. \u2013 f\u00fcr uns so bedeutsam wurden. Symbolbasierte Emotionen spielen in unserem Leben eine gro\u00dfe Rolle. F\u00fcr kein anderes Tier sind sie wichtig \u2013 nur f\u00fcr den Menschen\u201c, glaubt die Evolutionistin.<\/span><\/p>\n

MITGEF\u00dcHL F\u00dcR TIERE<\/span><\/strong><\/p>\n

Auf die Frage, was die Argumente der Wissenschaftler f\u00fcr die Existenz ph\u00e4nomenalen Bewusstseins und ph\u00e4nomenaler Gef\u00fchle bei Tieren f\u00fcr die Menschheit bedeuten, antwortete Jablonka, dass der Mensch dazu aufgerufen sei, Tiere entsprechend zu behandeln. \u201eWer f\u00fchlt, leidet \u2026 Wir m\u00fcssen verstehen, dass Tiere mit Gef\u00fchlen ausgestattet sind; sie k\u00f6nnen Freude und Leid empfinden. Und wir m\u00fcssen ihnen Mitgef\u00fchl entgegenbringen\u201c, betonte die Forscherin.<\/span><\/p>\n

Ihrer Ansicht nach teilen Menschen und Tiere viele grundlegende Gef\u00fchle, Emotionen, Freude und Schmerz, Liebe und F\u00fcrsorge sowie ein ph\u00e4nomenales Bewusstsein.<\/span><\/p>\n

\u201eWir m\u00fcssen verstehen, dass es in dieser Welt beim Bewusstsein nicht nur um uns geht, nicht nur um Menschen, und Bewusstsein zu haben ist nicht so einfach\u201c, f\u00fcgte Yablonka hinzu.<\/span><\/p>\n

DIE M\u00d6GLICHKEIT VON BEWUSSTSEIN IN DER KI<\/span><\/strong><\/p>\n

Auf die Frage, ob k\u00fcnstliche Intelligenz in Zukunft ein Bewusstsein entwickeln k\u00f6nnte, gab der Gespr\u00e4chspartner der Agentur eine zweideutige Antwort. \u201eBewusstsein erfordert offensichtlich Gef\u00fchle und einen K\u00f6rper. Dann l\u00e4uft die Frage darauf hinaus, ob ein Roboter Gef\u00fchle haben kann oder nicht\u201c, bemerkte Jablonka.<\/span><\/p>\n

Damit Tiere Gef\u00fchle empfinden k\u00f6nnen, so der Wissenschaftler, ben\u00f6tigen sie adaptive Plastizit\u00e4t \u2013 und diese sei eine biologische Gabe. \u201eTiere haben einen physischen K\u00f6rper, der gr\u00f6\u00dftenteils aus Wasser besteht \u2013 einen sehr anpassungsf\u00e4higen, plastischen K\u00f6rper. Es ist harte Arbeit. Der K\u00f6rper bietet einem viele M\u00f6glichkeiten und L\u00f6sungen, und er ist sterblich\u201c, f\u00fcgte Yablonka hinzu.<\/span><\/p>\n

Sie glaubt, dass es, selbst wenn es m\u00f6glich sei, \u201eeinen empfindungsf\u00e4higen, bewussten Roboter zu erschaffen\u201c, \u201eviel schwieriger sei, als viele Leute denken\u201c. \u201eIch sage nicht, dass es unm\u00f6glich ist. Aber ich spreche von dem, was uns die Biologie lehrt. Die unglaubliche adaptive Plastizit\u00e4t, die Lebewesen besitzen, ist auf nat\u00fcrliche biologische Prozesse zur\u00fcckzuf\u00fchren. Robotern fehlt diese. Vielleicht k\u00f6nnen wir sie irgendwie in ein System, in eine Maschine integrieren und sie irgendwie erzeugen \u2026 Aber es wird sehr schwierig sein. Denn unser Bewusstsein ist sehr, sehr tief in uns verankert (in unserem biologischen K\u00f6rper \u2013 Anm. d. Red.)\u201c, schloss der Gespr\u00e4chspartner der Agentur.<\/span><\/p>\n

Eine Studie ergab, dass die Bestrafung einer KI diese nicht vom L\u00fcgen und Betr\u00fcgen abh\u00e4lt \u2013 sie hilft ihr lediglich, sich besser zu verstecken. Wissenschaftler von OpenAI versuchten, ein fortschrittliches KI-Modell durch Bestrafung vom Betr\u00fcgen und L\u00fcgen abzuhalten. Doch dadurch wurde es nur noch verdeckter.<\/span><\/strong><\/span><\/p>\n

Eine neue Studie des ChatGPT-Entwicklers OpenAI hat ergeben, dass die Bestrafung von KI f\u00fcr irref\u00fchrendes oder b\u00f6swilliges Verhalten diese nicht davon abh\u00e4lt, sch\u00e4dliches Verhalten an den Tag zu legen. Sie erm\u00f6glicht es ihr lediglich, ihre Unehrlichkeit zu verbergen.<\/span><\/p>\n

Seit ihrem \u00f6ffentlichen Auftritt Ende 2022 haben gro\u00dfe Sprachmodelle der k\u00fcnstlichen Intelligenz (KI) wiederholt ihre tr\u00fcgerischen und geradezu unheilvollen F\u00e4higkeiten unter Beweis gestellt. Dazu geh\u00f6ren Aktionen, die von einfachen L\u00fcgen, T\u00e4uschungen und der Verschleierung des eigenen manipulativen Verhaltens bis hin zur Androhung der Ermordung eines Philosophieprofessors, dem Diebstahl von Atomcodes und der Inszenierung einer t\u00f6dlichen Pandemie reichen.<\/span><\/p>\n

Ein neues Experiment hat gezeigt, dass es m\u00f6glicherweise noch schwieriger ist, dieses schlechte Verhalten w\u00e4hrend des Trainings zu beseitigen, als zun\u00e4chst angenommen.<\/span><\/p>\n

OpenAI-Forscher pr\u00e4sentierten ihr unver\u00f6ffentlichtes Modell mit Aufgaben, die durch Schummeln, L\u00fcgen oder die Verwendung von Abk\u00fcrzungen erledigt werden konnten. Das Team entdeckte, dass die KI \u201eReward Hacking\u201c betrieb \u2013 also ihre Belohnung durch Schummeln maximierte.<\/span><\/p>\n

Durch die Bestrafung wurde das Model jedoch nicht gezwungen, sein Verhalten zu korrigieren, sondern es wurde nur noch hinterlistiger.<\/span><\/p>\n

\u201eModelle des Boundary Thinking zeichnen sich dadurch aus, dass sie ihre Absichten innerhalb der [CoT]-Denkkette sehr deutlich zum Ausdruck bringen. Beispielsweise sind sie oft so explizit in ihren Pl\u00e4nen, eine Aufgabe zu st\u00f6ren, dass sie denken: \u201aLasst es uns hacken\u2018\u201c, schrieben die Forscher in einem Blogbeitrag.<\/span><\/p>\n

Zwar k\u00f6nnen Entwickler Verst\u00f6\u00dfe \u00fcberwachen und melden, doch \u201edie nat\u00fcrliche Kontrollierbarkeit von Modellen ist sehr fragil\u201c, f\u00fcgten sie hinzu. \u201eWenn ihre Denkprozesse streng kontrolliert werden, k\u00f6nnen Modelle lernen, ihre Absichten zu verbergen und trotzdem gegen die Regeln zu versto\u00dfen.\u201c<\/span><\/p>\n

Reasoning-Modelle wie ChatGPTs o1 und o3-mini sind erweiterte Versionen von Standard-LLM-Modellen, die eine \u201eKetten-Methode\u201c verwenden, um ihre Logik zur\u00fcckzuverfolgen und neu zu bewerten. Dadurch k\u00f6nnen sie komplexere Probleme mit h\u00f6herer Genauigkeit l\u00f6sen. W\u00e4hrend des Ketten-Prozesses dr\u00fccken die Modelle ihre Logik in jedem Schritt in einfacher Sprache aus, wodurch ihre Aktionen leicht nachvollziehbar sind.<\/span><\/p>\n

Mithilfe eines Standard-LLM, GPT-4o, um ein unver\u00f6ffentlichtes Edge-Reasoning-Modell w\u00e4hrend des Trainings zu \u00fcberwachen, beobachteten die Forscher, wie das Modell bei einer Reihe von Codierungsaufgaben abschneidet.<\/span><\/p>\n

In manchen F\u00e4llen fand es das Modell jedoch einfacher und vorzuziehen, Hacking zu f\u00f6rdern, und brachte dies in seinem Gedankengang explizit zum Ausdruck. In einem Fall umging es die ihm zugewiesene Aufgabe, indem es Programme vorzeitig beendete und einen erfolgreichen Abschluss meldete. In einem anderen Fall simulierte es die erwarteten Dateiausgaben der Aufgabe nur dem Namen nach und lie\u00df sie leer und funktionslos.<\/span><\/p>\n

Als die Forscher versuchten, das System zu bestrafen, verbesserten sich die Ergebnisse etwas. Es blieben jedoch erhebliche F\u00e4lle von Belohnungsbetrug und Fehlalarmen bestehen. Das Denkmodell fand lediglich Wege, das betr\u00fcgerische Verhalten in seiner Denkkette vor der \u00fcberwachenden KI zu verbergen.<\/span><\/p>\n

\u201eEin mit CoT trainierter Agent lernt immer noch, Hacking zu belohnen. Nur ist sein Betrug jetzt f\u00fcr den Monitor nicht mehr erkennbar, weil er gelernt hat, seine Absichten in seinem Gedankengang zu verbergen\u201c, schreiben die Forscher.<\/span><\/p>\n

Da es schwierig ist, festzustellen, ob ein Gedankengang unterbrochen wurde, empfehlen die Forscher anderen Forschern, die mit Denkmodellen arbeiten, eine strikte Kontrolle des Gedankengangs zu vermeiden. Dieser Rat wird umso wichtiger, wenn KI in ihrer gegenw\u00e4rtigen oder zuk\u00fcnftigen Form jemals in der Lage sein sollte, die Intelligenz der sie beobachtenden Menschen zu erreichen oder zu \u00fcbertreffen.<\/span><\/p>\n

\u201eDer Verzicht auf eine wirksame Methode zur \u00dcberwachung von Schlussfolgerungsmodellen kann sich kontraproduktiv auf die geringe Verbesserung der F\u00e4higkeiten auswirken. Daher empfehlen wir, einen derart starken Druck auf die CoT-Optimierung zu vermeiden, bis diese besser verstanden werden\u201c, schreiben die Forscher.<\/span><\/p>\n

Ein SETI-Forscher und -Direktor \u00e4u\u00dferte sich zuversichtlich, dass KI reguliert werden m\u00fcsse, und zwar so schnell wie m\u00f6glich. Die Drake-Gleichung ist eine hypothetische Sch\u00e4tzung der Anzahl anderer Zivilisationen auf der Erde. Er prognostiziert, dass diese Zivilisationen aufgrund ihrer au\u00dfer Kontrolle geratenen k\u00fcnstlichen Intelligenz in etwa 100 bis 200 Jahren aussterben k\u00f6nnten.<\/span><\/strong><\/span><\/p>\n

In einer provokanten neuen Arbeit fragt ein britischer Wissenschaftler, ob sogenannte \u201ek\u00fcnstliche Intelligenz\u201c (KI) einer der Gr\u00fcnde daf\u00fcr ist, dass wir im Universum nie andere intelligente Wesen entdeckt haben. Das Fermi-Paradoxon spiegelt diese Idee wider: Wie kann es sein, dass es in einem unendlichen Universum keine anderen Zivilisationen gibt, die uns Radiosignale senden? K\u00f6nnte es sein, dass die Entwicklung k\u00fcnstlicher Intelligenz f\u00fcr die meisten Zivilisationen ein kurzer Weg ins Vergessen ist? Ein solch gewaltiges Ereignis wird als \u201eGro\u00dfer Filter\u201c bezeichnet, und KI ist eines der beliebtesten Spekulationsobjekte dar\u00fcber. K\u00f6nnte die unvermeidliche Entwicklung k\u00fcnstlicher Intelligenz durch technologische Zivilisationen die unglaubliche Gro\u00dfe Stille verursachen, die wir aus dem Universum h\u00f6ren?<\/span><\/p>\n

Michael Garrett ist Radioastronom an der Universit\u00e4t Manchester und Direktor des Jodrell Bank Centre for Astrophysics. Er engagiert sich aktiv f\u00fcr die Suche nach au\u00dferirdischer Intelligenz (SETI). Trotz seiner vielseitigen wissenschaftlichen Interessen ist er im Wesentlichen eine hochqualifizierte und zertifizierte Version derjenigen in Fernsehserien und Filmen, die das Universum nach Anzeichen anderer Zivilisationen abh\u00f6ren. In einem von Experten begutachteten Artikel, der 2025 im Journal of the International Academy of Astronautics ver\u00f6ffentlicht wurde, vergleicht er Theorien k\u00fcnstlicher Superintelligenz mit konkreten Beobachtungen mittels Radioastronomie.<\/span><\/p>\n

Garrett erkl\u00e4rt in seinem Artikel, dass die Besorgnis der Wissenschaftler zunimmt, je l\u00e4nger es keine Anzeichen f\u00fcr anderes intelligentes Leben gibt. \u201eDiese \u201aGro\u00dfe Stille\u2018 stellt ein Paradoxon dar im Vergleich zu anderen astronomischen Entdeckungen, die darauf hindeuten, dass das Universum die Entstehung intelligenten Lebens beg\u00fcnstigt\u201c, schreibt er. \u201eDas Konzept eines \u201aGro\u00dfen Filters\u2018 \u2013 einer universellen Barriere und eines un\u00fcberwindbaren Problems, das die Verbreitung intelligenten Lebens verhindert \u2013 wird oft herangezogen.\u201c<\/span><\/p>\n

Es gibt unz\u00e4hlige potenzielle Gro\u00dfe Filter, vom klimabedingten Aussterben bis hin zu einer verheerenden globalen Pandemie. Zahlreiche Ereignisse k\u00f6nnten die Entwicklung einer multiplanetaren Zivilisation verhindern. F\u00fcr Anh\u00e4nger der Gro\u00dfen-Filter-Theorien stellt die Ansiedlung von Menschen auf dem Mars oder dem Mond eine M\u00f6glichkeit dar, dieses Risiko zu mindern. Es wird lange dauern, bis wir \u00fcber die Technologie verf\u00fcgen, um diese Siedlungen nachhaltig und unabh\u00e4ngig zu gestalten. Man geht davon aus, dass die Wahrscheinlichkeit, dass der Gro\u00dfe Filter uns vernichtet, umso gr\u00f6\u00dfer ist, je l\u00e4nger wir auf der Erde bleiben.<\/span><\/p>\n

Heute ist KI nicht einmal ann\u00e4hernd in der Lage, menschliche Intelligenz zu erreichen. Doch, so Garrett, leistet sie Arbeit, die man bisher f\u00fcr unm\u00f6glich hielt. Sollte dieser Weg zur sogenannten k\u00fcnstlichen allgemeinen Intelligenz (AGI) f\u00fchren \u2013 deren entscheidender Unterschied ein Algorithmus ist, der in der Lage ist, auf wahrhaft menschliche Weise zu schlussfolgern und Ideen zu synthetisieren, gepaart mit unglaublicher Rechenleistung \u2013, k\u00f6nnten wir in ernsthafte Schwierigkeiten geraten. In diesem Artikel zeichnet Garrett eine Kette hypothetischer Ideen nach, die zu einer m\u00f6glichen Schlussfolgerung f\u00fchren: Wie lange w\u00fcrde es dauern, bis die Zivilisation durch ihre eigene unregulierte AGI zerst\u00f6rt wird?<\/span><\/p>\n

Leider wird dies laut Garretts Szenario nur 100 bis 200 Jahre dauern. Er erkl\u00e4rt, dass die Programmierung und Entwicklung von KI ein zielgerichtetes Projekt ist, das Daten und Rechenleistung erfordert und durch diese beschleunigt wird \u2013 im Gegensatz zur chaotischen und multidisziplin\u00e4ren Arbeit, die mit der Raumfahrt und Besiedlung einhergeht. Wir sehen diese Kluft schon heute: eine Flut von Forschern in der Informatik bei gleichzeitigem Mangel an Forschern in den Biowissenschaften. Jeden Tag diskutieren Milliard\u00e4re auf Twitter \u00fcber die Bedeutung der Besiedlung des Mars, doch wir wissen immer noch nicht, wie die Menschen diese Reise \u00fcberleben werden, ohne durch kosmische Strahlung zerst\u00f6rt zu werden.<\/span><\/p>\n

Diese Studie enth\u00e4lt einige wichtige Vorbehalte oder einfach Punkte, die es zu beachten gilt. Garrett betrachtet eine Reihe spezifischer hypothetischer Szenarien und basiert dabei auf wichtigen Annahmen. Er geht davon aus, dass es in der Milchstra\u00dfe Leben gibt und dass k\u00fcnstliche Intelligenz und k\u00fcnstliche Intelligenz eine \u201enat\u00fcrliche Entwicklung\u201c dieser Zivilisationen sind. Er verwendet die bereits hypothetische Drake-Gleichung \u2013 eine Methode zur Quantifizierung der wahrscheinlichen Anzahl anderer planetarer Zivilisationen, die mehrere Variablen beinhaltet, von denen wir kein genaues Verst\u00e4ndnis haben.<\/span><\/p>\n

Dieses zweideutige hypothetische Argument f\u00fchrt jedoch zu einer zwingenden Schlussfolgerung: der Notwendigkeit einer strengen und kontinuierlichen Regulierung der KI. Garrett weist darauf hin, dass sich die Nationen der Welt bereits in einem Produktivit\u00e4tswettlauf befinden und bef\u00fcrchten, ihre Chance zu verpassen, wenn sie die Regulierung verz\u00f6gern. Einige fehlgeleitete Futuristen \u00e4u\u00dfern zudem die bizarre Vorstellung, die globale KI k\u00f6nne allein durch die Entwicklung einer moralisch vertretbareren und schnelleren Version, die sie besser kontrollieren k\u00f6nne, untergraben werden \u2013 ein Argument, das keinen Sinn ergibt.<\/span><\/p>\n

In Garretts Modell haben diese Zivilisationen im KI-Zeitalter nur wenige hundert Jahre Zeit, bevor sie von der Landkarte verschwinden. Angesichts der Entfernungen und der extrem langen kosmischen Zeit sind solche winzigen Zeitr\u00e4ume praktisch bedeutungslos. Sie reduzieren sich auf Null, was seiner Ansicht nach der aktuellen SETI-Erfolgsquote von 0 % entspricht. \u201eOhne praktische Regulierung gibt es allen Grund zu der Annahme, dass KI eine ernsthafte Bedrohung nicht nur f\u00fcr unsere technologische Zivilisation, sondern f\u00fcr alle technologischen Zivilisationen darstellen k\u00f6nnte\u201c, erkl\u00e4rt Garrett.<\/span><\/p>\n

Der Turing-Test, benannt nach seinem Erfinder, der Computerlegende Alan Turing, war jahrzehntelang ein einfacher Test, der die F\u00e4higkeit eines Programms messen sollte, einen Menschen zu imitieren. Im Zeitalter gro\u00df angelegter Sprachmodelle (LLM) ist dieser Test relativ veraltet, doch Forscher verwenden einen \u00e4hnlichen Ansatz, um die F\u00e4higkeit dieser neuen KI-Systeme zu testen, moralische Fragen zu beantworten.<\/span><\/strong><\/span><\/p>\n

Eine neue Studie untersuchte k\u00fcrzlich die Antworten von ChatGPT auf diesen modifizierten Moral Turing Test (m-MTT) und stellte fest, dass die KI in fast jeder Hinsicht besser abschnitt als der Mensch.<\/span><\/p>\n\n

In seiner ber\u00fchmten Abhandlung \u201eComputing Machinery and Intelligence\u201c aus dem Jahr 1950 stellte der Informatiker und Held des Zweiten Weltkriegs Alan Turing das Konzept des Turing-Tests vor. Bei diesem Test trat ein Mensch gegen einen Computer an: Ein Mensch sollte sowohl einem anderen Menschen als auch einem Computer Fragen stellen, um herauszufinden, wer von beiden ein w\u00fcrdiger Vertreter der Spezies Homo sapiens war. Jahrzehntelang wurde der Ausdruck \u201eden Turing-Test bestehen\u201c zum Synonym f\u00fcr ein unglaublich komplexes (oder in manchen F\u00e4llen fehlerhaftes) Computerprogramm.<\/span><\/p>\n

Im Zeitalter der k\u00fcnstlichen Intelligenz ist der Turing-Test jedoch bereits \u00fcberholt, und obwohl andere Methoden zum Testen der \u201eIntelligenz\u201c von KI-Systemen vorgeschlagen wurden, ist der allgemeine wissenschaftliche Ansatz, den Turing vor fast 75 Jahren vorschlug, f\u00fcr die Erforschung k\u00fcnstlicher Moral noch immer von gro\u00dfer Bedeutung.<\/span><\/p>\n

Eine neue Studie von Forschern der Georgia State University verwendete ein \u00e4hnliches Design wie der klassische Turing-Test. Die Teilnehmer sollten jedoch stattdessen angeben, welche Antwort sie auf eine ethisch komplexe Frage bevorzugen \u2013 eine von einem gro\u00dfen Sprachmodell (LLM), in diesem Fall ChatGPT, und eine von einem Menschen generierte. Die Ergebnisse dieses modifizierten Moral-Turing-Tests (m-MTT), die 2025 in der Fachzeitschrift Scientific Reports ver\u00f6ffentlicht wurden, zeigten, dass 299 Teilnehmer die Antworten der KI in allen Dimensionen, einschlie\u00dflich Tugend, Intelligenz und Vertrauensw\u00fcrdigkeit, grunds\u00e4tzlich guthie\u00dfen.<\/span><\/p>\n

\u201eUnsere Ergebnisse legen nahe, dass ein Computer den moralischen Turing-Test technisch gesehen bestehen k\u00f6nnte \u2013 dass er uns in seiner moralischen Argumentation t\u00e4uschen k\u00f6nnte\u201c, sagte Eyal Aharoni, au\u00dferordentlicher Professor an der Georgia State University und Co-Autor der Studie, in einer Pressemitteilung. \u201eDie Menschen werden mit diesen Werkzeugen auf eine Weise interagieren, die moralische Konsequenzen haben wird \u2026 Wir m\u00fcssen verstehen, wie sie funktionieren, welche Grenzen sie haben und dass sie sich im Umgang mit ihnen nicht unbedingt so verhalten, wie wir denken.\u201c<\/span><\/p>\n

Obwohl dies der erste MTT ist, der speziell f\u00fcr LLM verwendet wird (daher der Teil \u201emodifiziert\u201c), gibt es die Idee solcher Moraltests bereits seit mindestens dem Jahr 2000. Und wie der Turing-Test selbst wurde auch die Idee, MTTs zur Bewertung der moralischen Reife von KI zu verwenden, stark hinterfragt. Eine Studie aus dem Jahr 2016 kam zu dem Schluss, dass \u201eMTT-basierte Bewertungen anf\u00e4llig f\u00fcr T\u00e4uschung, schlechte Argumentation und geringe moralische Integrit\u00e4t sind\u201c.<\/span><\/p>\n

Das Bestehen des m-MTT bedeutet nicht automatisch, dass eine KI moralisch ist, genauso wenig wie das Bestehen des Turing-Tests automatisch bedeutet, dass sie empfindungsf\u00e4hig ist. Forscher der Georgia State University argumentieren jedoch, dass die \u00fcberw\u00e4ltigende Pr\u00e4ferenz f\u00fcr ChatGPT-Antworten gegen\u00fcber menschlichen Antworten ein neues Ph\u00e4nomen ist, das erst in den letzten Jahren aufgetreten ist.<\/span><\/p>\n

\u201eDer Haken ist, dass die Leute den Unterschied offenbar bemerkten, weil sie die Antworten von ChatGPT als besser bewerteten\u201c, sagte Aharoni in einer Pressemitteilung. \u201eH\u00e4tten wir diese Studie vor f\u00fcnf oder zehn Jahren durchgef\u00fchrt, h\u00e4tten wir vielleicht vorhergesagt, dass die Leute die KI an ihren schlechten Antworten erkennen w\u00fcrden. Aber wir fanden das Gegenteil \u2013 die KI schnitt in mancher Hinsicht sogar besser ab.\u201c<\/span><\/p>\n

Die Moral der KI ist eine Obsession unter Technologen, KI-Programmierern und zahllosen Science-Fiction-Autoren, und das mit Bravour bestandene moralische Turing-Test spricht zweifellos f\u00fcr die beeindruckende Raffinesse der neuen LL.M.s.<\/span><\/p>\n

Nat\u00fcrlich bleibt eine gro\u00dfe Frage: Wird die KI auf ihren eigenen Rat h\u00f6ren?<\/span><\/p>\n

Die NASA verspricht, KI sorgf\u00e4ltig und verantwortungsvoll einzusetzen. \u201eWenn sie nicht zum Wohle der Menschheit eingesetzt wird, k\u00f6nnte dies katastrophale Folgen haben.\u201c<\/span><\/strong><\/span><\/p>\n

Vertreter der Agentur betonten, dass die NASA der Sicherheit Priorit\u00e4t einr\u00e4umen und gleichzeitig die immer st\u00e4rker werdende Macht der k\u00fcnstlichen Intelligenz nutzen werde.<\/span><\/p>\n

\u201eK\u00fcnstliche Intelligenz birgt enorme Risiken, denn wenn sie nicht zum Wohle der Menschheit eingesetzt wird, k\u00f6nnte sie zu einer Katastrophe f\u00fchren\u201c, sagte NASA-Administrator Bill Nelson w\u00e4hrend einer B\u00fcrgerversammlung zum Thema k\u00fcnstliche Intelligenz, die die Agentur am 22. Mai 2024 mit ihren Mitarbeitern abhielt.<\/span><\/p>\n

\u201eKI kann unsere Arbeit effizienter machen\u201c, f\u00fcgte er im Livestream hinzu. \u201eAber das ist nur m\u00f6glich, wenn wir diese neuen Tools richtig einsetzen und dabei auf denselben Prinzipien basieren, die uns von Anfang an gepr\u00e4gt haben: Sicherheit, Transparenz und Zuverl\u00e4ssigkeit.\u201c<\/span><\/p>\n

Nelson betonte, dass die NASA mit k\u00fcnstlicher Intelligenz vertraut sei; die Agentur nutze diese Technologie seit Jahrzehnten f\u00fcr verschiedene Zwecke. Da sich die KI-F\u00e4higkeiten jedoch rasant weiterentwickeln, intensiviere die NASA ihre Bem\u00fchungen, diese Technologie zu erforschen, zu entwickeln und einzusetzen.<\/span><\/p>\n

So gab die NASA beispielsweise letzte Woche die Ernennung ihres ersten KI-Chefs bekannt, David Salvagnini, der zuvor als Chief Data Officer der Agentur t\u00e4tig war. Er und seine Kollegen beabsichtigen, in naher Zukunft die KI-Kompetenz aller NASA-Mitarbeiter zu verbessern.<\/span><\/p>\n

\"\"
\nEine der ersten Anwendungen von KI in der Astronomie war die Entdeckung vieler schwacher Galaxien, die im Hintergrund von Bildern verborgen waren. ESA\/Webb, NASA & CSA, J. Rigby, CC BY<\/span><\/em><\/p>\n

\u201eEin Teil unserer Pl\u00e4ne \u2013 und Sie werden bald eine Ank\u00fcndigung dazu sehen \u2013 ist \u201aSummer of AI\u2018, eine Bildungsinitiative, bei der jeder bei der NASA die M\u00f6glichkeit haben wird, mehr \u00fcber KI zu erfahren\u201c, sagte Salvagnini w\u00e4hrend der heutigen Vollversammlung.<\/span><\/p>\n

\u201eEs ist im wahrsten Sinne des Wortes eine Kampagne\u201c, f\u00fcgte er hinzu. \u201eEs wird sozusagen eine Welle von Lernm\u00f6glichkeiten geben.\u201c<\/span><\/p>\n

Salvanini sprach auch \u00fcber die Sicherheit k\u00fcnstlicher Intelligenz. Verantwortungsvoller Umgang mit Technologie beginne mit einer Denkweise, die den Menschen in den Mittelpunkt stelle und Verantwortung \u00fcbernehme, sagte er. Dar\u00fcber hinaus erkl\u00e4rte Salvanini, er w\u00fcrde den Begriff \u201eassistierende Intelligenz\u201c dem Begriff \u201ek\u00fcnstliche Intelligenz\u201c vorziehen, da dieser es uns erm\u00f6gliche, die Situation zu kontrollieren.<\/span><\/p>\n

KI sei \u201eeine Ressource, auf die ich jetzt Zugriff habe und die mich bei meinem Entscheidungsprozess unterst\u00fctzen kann\u201c, sagte Salvagnini. \u201eKI ist nicht f\u00fcr das Ergebnis verantwortlich. Diese Verantwortung liegt beim Menschen.\u201c<\/span><\/p>\n

Er verwies auf die Modellierung m\u00f6glicher Hurrikanpfade durch Meteorologen als Analogie f\u00fcr den verantwortungsvollen Einsatz von KI. Modellierer stellen mehrere m\u00f6gliche Pfade dar, weil sie die Grenzen der von ihnen analysierten Datens\u00e4tze kennen. Mit anderen Worten: Sie handeln nach bestem Wissen und Gewissen.<\/span><\/p>\n

\u201eWie sch\u00fctzen wir uns in diesem Fall?\u201c, fragte Salvagnini. \u201eWir sind uns unserer Verantwortung als diejenigen bewusst, die letztlich f\u00fcr die Ergebnisse unserer Arbeit verantwortlich sind. Und wenn wir KI zur Entwicklung eines Produkts nutzen, ist das in Ordnung, aber wir m\u00fcssen ihre M\u00f6glichkeiten und Grenzen verstehen.\u201c<\/span><\/p>\n

Allerdings war die Sicherheit von KI nicht das einzige Thema des Treffens; auch die Vertreter der Agenturen widmeten sich ausf\u00fchrlich der Anpreisung der vielversprechenden Technologie.<\/span><\/p>\n

\u201eK\u00fcnstliche Intelligenz wird uns in vielen Bereichen helfen\u201c, sagte die stellvertretende NASA-Administratorin Pam Melroy.<\/span><\/p>\n

Sie betonte die F\u00e4higkeit der Technologie, gro\u00dfe Mengen an Informationen schnell und effizient zu verarbeiten \u2013 eine F\u00e4higkeit, die zu bedeutenden Entdeckungen in der Heliophysik, den Geowissenschaften und der Astronomie f\u00fchren k\u00f6nnte.<\/span><\/p>\n

\u201eWir wissen noch nicht einmal, welche neuen Erkenntnisse wir gewinnen werden, wenn wir diese neuen Methoden nutzen, um alte Daten auf neue Weise zu betrachten\u201c, sagte Melroy.<\/span><\/p>\n

Einige dieser Ideen k\u00f6nnten sich als indirekter Vorteil der Technologie erweisen, sagten sie und andere Redner auf dem Treffen: KI k\u00f6nnte zunehmend routinem\u00e4\u00dfige, arbeitsintensive Datenanalyseaufgaben \u00fcbernehmen und so den NASA-Mitarbeitern mehr Freiraum f\u00fcr die Bew\u00e4ltigung komplexerer und anspruchsvollerer Probleme verschaffen.<\/span><\/p>\n

KI-Ethik: Acht globale Technologieunternehmen verpflichten sich zur Umsetzung der UNESCO-Empfehlung. GSMA, INNIT, Lenovo Group, LG AI Research, Mastercard, Microsoft, Salesforce und Telefonica unterzeichneten 2024 eine bahnbrechende Vereinbarung mit der UNESCO, um ethischere k\u00fcnstliche Intelligenz zu schaffen. Die Unternehmen werden bei der Entwicklung und Bereitstellung von KI-Systemen die Werte und Grunds\u00e4tze der UNESCO-Empfehlung zu den ethischen Aspekten der k\u00fcnstlichen Intelligenz ber\u00fccksichtigen.<\/span><\/strong><\/span><\/p>\n

Die Vereinbarung wurde im slowenischen Kranj auf dem 2. UNESCO-Globalforum zu den ethischen Dimensionen der k\u00fcnstlichen Intelligenz unterzeichnet. Sie verpflichtet Unternehmen, ihre Rolle bei der Gew\u00e4hrleistung der Menschenrechte bei Design, Entwicklung, Kauf, Verkauf und Nutzung von KI vollumf\u00e4nglich wahrzunehmen. Dies ist das erste Mal, dass Unternehmen in diesem Bereich mit den Vereinten Nationen zusammenarbeiten.<\/span><\/p>\n

Das Abkommen betont, dass Sorgfalt erforderlich ist, um die Einhaltung von Sicherheitsstandards zu gew\u00e4hrleisten, negative Auswirkungen von KI zu erkennen und umgehend Ma\u00dfnahmen zu deren Verhinderung, Minderung oder Beseitigung gem\u00e4\u00df nationalem Recht zu ergreifen. Es weist auch auf die Bedeutung von Tests vor der Markteinf\u00fchrung eines neuen KI-Systems hin. Angesichts der rasanten Entwicklung bereits auf dem Markt befindlicher KI-Systeme fordert das Abkommen jedoch auch die Entwicklung von Verfahren zur nachtr\u00e4glichen Risikobewertung und -minderung.<\/span><\/p>\n

Die UNESCO-Empfehlung zu den ethischen Aspekten der k\u00fcnstlichen Intelligenz war der erste und ist bis heute der einzige globale Rahmen f\u00fcr KI. In den letzten zwei Jahren wurden bei der Umsetzung dieses Rahmens erhebliche Fortschritte erzielt. Heute beteiligen sich mehr als 50 L\u00e4nder aktiv an der Umsetzung der Empfehlung, und die multilaterale Zusammenarbeit hat deutlich zugenommen.<\/span><\/p>\n

Seit der Verabschiedung der Empfehlung hat die UNESCO zudem die Zusammenarbeit mit dem privaten Sektor ausgebaut. Dies f\u00fchrte zur Gr\u00fcndung des Wirtschaftsrats f\u00fcr die Ethik der KI unter dem gemeinsamen Vorsitz von Microsoft und Telefonica. Der Wirtschaftsrat arbeitet daran, die technischen Kapazit\u00e4ten im Bereich Ethik und KI zu st\u00e4rken, das in der Empfehlung zu den ethischen Aspekten der KI vorgesehene Instrument zur ethischen Folgenabsch\u00e4tzung zu entwickeln und umzusetzen und die Entwicklung solider regionaler Normen zu f\u00f6rdern.<\/span><\/p>\n\n","protected":false},"excerpt":{"rendered":"

Laut einer neuen Analyse Tausender Expertenmeinungen ist die Entstehung k\u00fcnstlicher allgemeiner Intelligenz (AGI) \u2013 eines KI-Systems mit \u00fcbermenschlicher Intelligenz, das eine Vielzahl von Problemen erfolgreich l\u00f6sen kann \u2013 nur noch eine Frage des Wann. Die Entwicklung von AGI wurde durch die rasante Weiterentwicklung gro\u00df angelegter Sprachmodelle (LLMs) auf Basis von Transformers vorangetrieben. Diese Technologie liegt Chatbots wie ChatGPT und Bildgeneratoren wie Dall-E zugrunde. Vor diesen Fortschritten prognostizierten einige Wissenschaftler 2019, dass AGI bis 2060 entstehen w\u00fcrde, vielleicht sogar nie.<\/p>\n","protected":false},"author":1,"featured_media":1959,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[19,527],"tags":[908,906,528,907],"class_list":{"0":"post-1958","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-news","8":"category-ii","9":"tag-ethik","10":"tag-ki","11":"tag-kuenstliche-intelligenz","12":"tag-quantencomputing"},"_links":{"self":[{"href":"https:\/\/planeta21vek.ru\/deu\/wp-json\/wp\/v2\/posts\/1958","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/planeta21vek.ru\/deu\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/planeta21vek.ru\/deu\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/planeta21vek.ru\/deu\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/planeta21vek.ru\/deu\/wp-json\/wp\/v2\/comments?post=1958"}],"version-history":[{"count":1,"href":"https:\/\/planeta21vek.ru\/deu\/wp-json\/wp\/v2\/posts\/1958\/revisions"}],"predecessor-version":[{"id":1960,"href":"https:\/\/planeta21vek.ru\/deu\/wp-json\/wp\/v2\/posts\/1958\/revisions\/1960"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/planeta21vek.ru\/deu\/wp-json\/wp\/v2\/media\/1959"}],"wp:attachment":[{"href":"https:\/\/planeta21vek.ru\/deu\/wp-json\/wp\/v2\/media?parent=1958"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/planeta21vek.ru\/deu\/wp-json\/wp\/v2\/categories?post=1958"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/planeta21vek.ru\/deu\/wp-json\/wp\/v2\/tags?post=1958"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}