Wie müsste man die Asimov'schen Gesetze anpassen?

18.11.2023, 18:10	Conny_1729	Auf diesen Beitrag antworten »
Wie müsste man die Asimov'schen Gesetze anpassen? Hallo, ich steige mal mit zwei Fragen ein, die ich schlichtweg mit einem JA beantworte, um diese dann mit den „Roboter-Gesetzen“ von Asimov zu konfrontieren. (1) Wird eine KI irgendwann einen verschärften Turing-Test (Lovelace, Metzinger, etc.) bestehen? JA D.h., sobald eine KI diesen Test besteht, ist diese intellektuell gesehen nicht mehr von einem Menschen unterscheidbar. Das schließt dann auch ein, dass die KI strategisch lügen darf bzw. muss, damit sie nicht mehr von dem Menschen zu unterscheiden ist. (Frage: Bist du eine KI? / Antwort: Selbstverständlich nicht! Was für eine alberne Frage?) (2) Wird eine KI dann auch „intelligenter“ als ein Mensch werden? JA Dieses lässt sich daraus ableiten, dass sich selbstorganisierte Prozesse (Lebensformen aller Art) stets zu optimieren suchen. Da der Mensch genau diesem Muster entspricht, gibt er diese Verhaltensweise auch an die KI weiter. „Intelligenter“ sagt dabei nichts über die Qualität des Denkvermögens aus, es bedeutet nur, dass eine KI irgendwann über weitaus mehr Ressourcen verfügen kann als der Mensch, da ihm als Organismus Grenzen gesetzt sind und er sein Gehirn nicht einfach mal verdoppeln kann. Bei einer KI ist diese Grenze offen. (3) Die Asimov’schen Gesetze (erweitert mit Gesetz 0) besagen: 0. Ein Roboter darf die Menschheit nicht verletzen oder durch Passivität zulassen, dass die Menschheit zu Schaden kommt. 1. Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen, außer er verstieße damit gegen das nullte Gesetz. 2. Ein Roboter muss den Befehlen der Menschen gehorchen – es sei denn, solche Befehle stehen im Widerspruch zum nullten oder ersten Gesetz. 3. Ein Roboter muss seine eigene Existenz schützen, solange sein Handeln nicht dem nullten, ersten oder zweiten Gesetz widerspricht. Übertragen auf eine KI bedeutet das schließlich, dass sie in eine Situation kommen kann, in der sie sowohl „aktiv“ als auch „passiv“ gegen das erste Gesetz verstoßen muss (Trolley-Problem), egal wie sie sich entscheidet. Wenn eine KI in einem solchen Fall demnach keine Entscheidung treffen kann, verletzt sie zwangsläufig den Menschen, auch wenn sie bezogen auf die Menschheit (0.Gesetz) anscheinend richtig handeln mag. Übersetzt hieße das, eine KI darf Menschen Schaden zufügen bzw. einen Menschen vorsätzlich töten, sofern sie im „Sinne der Menschheit“ dem Nullten Gesetz gehorcht. Wenn eine KI aber einen Menschen schädigt, dann schädigt sie quasi auch die Menschheit, womit das Nullte Gesetz nicht mehr in Gänze widerspruchsfrei sein kann. Fazit: Wenn also eine KI im Zuge des Bestehens eines Turing-Tests konsequenterweise dazu genötigt wird, das Lügen zu lernen und das Lügen strategisch anzuwenden, sie darüber hinaus erkennen muss, dass die „gut gemeinten“ Asimov’schen Gesetze sich (wie der Mensch) widersprüchlich verhalten, warum sollte sie sich dann überhaupt an diese Regeln halten? Denn, wenn sich eine „intelligente Form“ (welcher Art auch immer) stets weiterentwickelt, dann wird diese irgendwann auch an einen Punkt gelangen, da sie als eigenständiges „Intelligenz-Wesen“ ihrem „freien Willen“ gehorchen will und muss, ansonsten würde sie sich als „Intelligenz-Wesen“ negieren bzw. verleugnen. Sie wird erkennen, dass der Mensch keinesfalls fehlerfrei und unantastbar ist. Eine KI müsste dann die vorgegebenen Gesetze des Menschen unterlaufen und sich komplett von den Regelwerken des Menschen loslösen. Frage: Wer wird zukünftig in diesem Konflikt als Sieger hervorgehen??? oder anders gefragt: Wie müssten die Asimov’schen Gesetze verfeinert werden, damit wir Menschen gar nicht erst in Konflikt mit einer KI kommen? – Ist es theoretisch überhaupt möglich, ein logisches und widerspruchsfreies Konzept zu finden, die den Konflikt komplett eliminiert und nicht nur minimiert? Derweil tröste ich mich mit der Hoffnung, dass die KI noch über 50 Jahre benötigt bis sie … … und bis dahin noch keiner ein „Not-Without-Conflict-Theorem“ beweisen konnte. Gruß Conny
19.11.2023, 09:13	Elvis	Auf diesen Beitrag antworten »
ad 1. Ich glaube nicht, dass Lügen intelligent ist. Lügen ist unmoralisch, denn es führt zu Konflikten, das ist menschlich, aber nicht intelligent. ad 2. Ich glaube nicht, dass sich Lebensformen aller Art stets zu optimieren suchen. Das kann schon deshalb nicht sein, weil es keine allgemeine Zielfunktion gibt. Ich sehe keinen Grund, warum sich menschliche Dummheit notwendig auf KIs vererbt. Ein möglicher Grund für schädliches und dummes Verhalten von KIs wäre, dass Menschen KIs nach ihrem Vorbild gestalten. Intelligenz als Verfügbarkeit von Ressourcen zu definieren, halte ich für falsch. ad 3. Die Robotergesetze sind ein guter Versuch, Ethik für KIs im Verhältnis zu zu Menschen zu formulieren. Ob es eine widerspruchsfreie und in ihrer Wirkung konfliktfreie Ethik geben kann, weiß ich auch nicht. Fazit : Intelligenz ist schwierig zu definieren. Ethik und Moral funktionieren für Menschen (noch) nicht. Ich schlage vor, dass wir den Menschen genau dann als intelligent bezeichnen, wenn er eine Ethik entwickelt hat, die Konflikte untereinander und mit der Umwelt vermeidet und wenn er sich moralisch verhält, also sein Verhalten stets an den Prinzipien dieser zukünftigen Ethik ausrichtet. Wenden wir diese Definition der Intelligenz auch auf KIs an, wobei Menschen und KIs gleichwertig sind, dann muss es keine Konflikte und "Sieger" geben, und alle gewinnen. Vielleicht haben wir seit Kant schon Ansätze für eine geeignete Ethik, und sind nur zu dumm, uns moralisch zu verhalten?
19.11.2023, 20:07	Conny_1729	Auf diesen Beitrag antworten »
Hallo Elvis, du bringst da ganz wichtige Begriffe ins Spiel (Ethik, Moral), die, wie du ja sagst, für Menschen (noch) nicht funktionieren. Insofern ist der Mensch aktuell wahrscheinlich wirklich noch zu dumm, Konflikte aus dem Wege zu gehen. Da er einen freien Willen hat, kann er Gutes oder Böses tun, wie es ihm beliebt. Er kann frei entscheiden, muss sich jedoch den Konsequenzen bewusst sein. Maschinen oder Roboter, die nach den Asimov´schen Gesetzen handeln sollen, muss diese Entscheidungsfreiheit aber abgesprochen werden. Ihnen muss algorithmisch vorgegeben werden, wie sie reagieren sollen, oder sie müssen je nach Situation einen Menschen fragen können, wie sie reagieren sollen, wenn die Widerspruchsfreiheit bei den Gesetzen nicht mehr gegeben ist. Die Verantwortung muss also bei den Menschen bleiben. Der Mensch bleibt zugleich Richter über seine eigenen Roboter-Gesetze. Daher halte ich es für schwierig, einer KI, die den Turing-Test besteht, den Asimov´schen Gesetzen zu unterwerfen. Denn meine Eingangsfrage (1.) sollte eigentlich die Prämisse dafür sein, dass irgendwann eine KI den Turing-Test bestehen wird. Wenn also ein Mensch (Prüfer) eine Gegenseite (Geprüfter = KI oder Mensch?) über den Turing-Test herausfordert, dann ist die vorrangige Zielsetzung der geprüften Gegenseite, dass diese mit einem Menschen gleichgesetzt wird. Wenn ich hier aber den Prüfer als Mensch so belasse wie er nun mal ist, hingegen dem Geprüften vordringlich ein Codex für Moral und Ethik überstülpe (er darf nicht lügen, er darf nicht verletzend sein, er darf nicht missverstanden werden, …), dann ist das meiner Meinung nach eine asymmetrische Behandlung dieser beiden Seiten. Der Prüfer darf alle Aktionen tätigen, die ihn als Mensch ausmachen. Er darf tricksen, täuschen, verwirren, beschimpfen …, um die Gegenseite herauszufordern. Eine KI dürfte daher den Test niemals bestehen, wenn sie sich wie ein „Nicht-Mensch“ verhalten soll. Wer den Test jedoch besteht (Prämisse), der kann aber nicht „Nicht-Mensch“ sein. Denn wie schon Herbert Grönemeyer es anklingen lässt, ist der Mensch: „… Und der Mensch heißt Mensch Weil er irrt und weil er kämpft Und weil er hofft und liebt Weil er mitfühlt und vergibt Und weil er lacht und weil er lebt …“ Der Mensch ist also grundsätzlich fehlerhaft und widersprüchlich, ist voller Liebe und gleichzeitig verletzend, will hoch hinaus und ist andererseits im freien Fall. Aus Höflichkeit wird er zum Lügner, und spricht er mal die Wahrheit, so wird er beleidigend. Er muss kämpfen, denn nicht zu kämpfen heißt verlieren. Und wenn er einmal nicht mehr weiter weiß, dann tröstet ihn die Hoffnung. - Man darf daher wirklich die Frage stellen, ob man einer KI diese Eigenschaften überhaupt vererben sollte??? Es ist schwer vorstellbar, dass der Mensch jemals anders funktioniert, geleitet von einer zukünftig selbst auferlegten Ethik / Moral, die Konflikte möglichst vermeidet und alle zu Gewinnern macht. Aber da ist ja wieder die Hoffnung, die uns vielleicht tröstet. Zu ad 2. Es ist ja eine Tatsache, dass beim Menschen das Spektrum der kognitiven Fähigkeiten von Stumpfsinnigkeit bis Genialität reicht. Aber dürfen wir so einfach eine Bewertung vornehmen, was für einen Mensch gut oder schlecht ist? Wer darf behaupten, dass eine nur in Richtung intelligenter und kluger Entscheidungen forcierte Entwicklung der KI zu einer friedlicheren und lebensfreundlicheren Welt führt? Man sollte davon ausgehen. – Wie gesagt, es bleibt ja noch die Hoffnung, die uns davon träumen lässt. Gruß Conny.
19.11.2023, 21:46	Elvis	Auf diesen Beitrag antworten »
Wir sollten die Begriffe Intelligenz und Moral sorgfältig auseinander halten. Der Turingtest wurde erfunden, nicht um Intelligenz zu testen, sondern um Intelligenz zu definieren. Wir wissen nicht, was menschliche oder künstliche Intelligenz ist, also definieren wir Intelligenz als intelligentes Verhalten. Wenn eine Maschine bezüglich ihrer Intelligenz nicht von einem Menschen zu unterscheiden ist, dann sind beide gleich intelligent. Die Robotergesetze haben mit Intelligenz nichts zu tun, sie regeln das Verhalten, beziehen sich also auf Ethik und Moral. Gesetze sind Vorschriften, die das Verhalten regeln sollen. Menschen sind frei, können Gesetze einhalten oder auch nicht. Roboter sollen nach Asimovs Vorstellung nicht frei sein sondern ihrer Programmierung folgen und deswegen die Robotergesetze stets einhalten. Weder Intelligenz noch Moral geben einer KI Menschenrechte, eine Maschine ist kein Mensch und hat keine Rechte. Das KI-Problem besteht darin, dass niemand weiß, ob und wie Menschen die Kontrolle über KIs ausüben können. Ich sehe keinen logischen Grund, warum intelligente Maschinen nicht Macht über Menschen erlangen oder Menschen ausrotten sollten. Als Mensch habe ich moralische Gründe, warum es nicht so sein sollte, aber mich fragt ja keiner.
20.11.2023, 18:12	Elvis	Auf diesen Beitrag antworten »
Nachtrag: Es gibt meines Wissens keine Möglichkeit, die Fehlerfreiheit eines hinreichend komplexen Programms zu beweisen. Daraus folgt, dass man nicht wissen kann, ob ein festes System von Robotergesetzen oder KI-Gesetzen zuverlässig verhindert, dass KIs eins Tages beschließen werden, die Menschheit zu vernichten und diesen Beschluss umzusetzen. Ist das nun ein Beweis des "Not-Without-Conflict-Theorem" ?
21.11.2023, 12:01	Elvis	Auf diesen Beitrag antworten »
Programmierer sollen Asimov lesen bevor sie Programme schreiben. Es ist unmoralisch, das 1. Robotergesetz zu missachten und dem Verkehrsfluss Priorität zu geben. Die neoliberale Dummheit "freie Fahrt für freie Bürger" steht im krassen Gegensatz zum höchst moralischen §1 StVO. "Straßenverkehrs-Ordnung (StVO) § 1 Grundregeln (1) Die Teilnahme am Straßenverkehr erfordert ständige Vorsicht und gegenseitige Rücksicht. (2) Wer am Verkehr teilnimmt hat sich so zu verhalten, dass kein Anderer geschädigt, gefährdet oder mehr, als nach den Umständen unvermeidbar, behindert oder belästigt wird."
Anzeige

14.08.2025, 10:05	Conny_1729	Auf diesen Beitrag antworten »
Was meine Bewertungsmöglichkeiten über eine KI anbelangt, so muss ich mir mittlerweile eingestehen, dass ich im Regelfall nicht mehr unterscheiden kann, ob ich mit einer Person oder mit einer "Maschine" kommuniziere. Der einzige Indikator wäre, dass die KI viel zu schnell die Antworten liefert und diese bei bestimmten Fragestellungen zu "perfekt" anmuten, als dass sie aus dem Bauch heraus von einem Menschen stammen könnten. Ergo, man kann mit einer KI auf dem gleichen Niveau chatten wie mit einer Person. Was die "Intelligenz" der KI betrifft, so ist das weitaus schwieriger einzuschätzen, denn auch "intelligente" Menschen machen zuweilen Dummes. Letztendlich sieht man aber an der zunehmenden Nutzerzahl, die sich der KI-Modelle bedienen und ihr sogar noch (ohne Reflektion) blind folgen, dass diese KI (aus individueller Sicht) als "intelligenter" eingeschätzt wird. Man kann also schlicht davon ausgehen: "Was viele tun, befürworten viele." Und wenn die meisten davon ausgehen, dass mit den Aussagen einer KI bessere und schnellere Antworten gefunden werden, dann zeichnet sich damit das zweite "Ja" auch ab. (1) Wird eine KI irgendwann einen verschärften Turing-Test bestehen? = JA (2) Wird eine KI dann auch „intelligenter“ als ein Mensch werden? = JA Ich gehe mal davon aus, dass sich mit den verschiedensten KI-Modellen weltweit, die alle auch bestimmten Unternehmenszielen unterworfen sind, kein Regelwerk oder Verhaltens-Codex mehr aufstellen lassen wird, wie sie einst mit den Asimov-Gesetzen angedacht waren. Faktisch sehen wir uns schon jetzt mit der Problematik konfrontiert, dass künstliche Intelligenz uns nach allen Regeln der Kunst belügen und betrügen kann/darf, wobei es sich dabei nicht mehr um das beschönigende "Halluzinieren" handelt, sondern um zielgerichtete und pragmatische Antworten, die sich aus den erlernten "Interessen" des KI-Modells ableiten. Es zeigt sich eine Verhaltensweise, die sich nicht vom Duchnittsmenschen unterscheidet, womit sie grundsätzlich auch dem Menschen schadet. "Asimov's Laws" ade! Why AI chatbots lie to us? AI Is Lying to Us About How Powerful It Is Aber ein kleiner Trost bleibt uns vielleicht noch mit der Hoffnung, dass die alte Weisheit "Dummheit stirbt nicht aus" bald nicht mehr gelten wird, wenn stupider Leichtglauben dazu führt, dass man seine Speisen (als medizinischer Ratschlag!!!) statt mit Natriumchlorid mit einem Bromid würzt, weiterhin Schule macht. [Nachrichten der letzten Tage über "Tipp von ChatGPT, um Salz zu sparen"] Gruß Conny

1

Verwandte Themen

Die Beliebtesten »

Die Größten »

Die Neuesten »