Künstliche Intelligenz = ende der Menschheit ?

[Salvator]

@gnutl:
Exakt.
@Zuckerwatte:
Intelligenz und Bewußtsein sind ganz und gar nicht dasselbe.
Intelligenz hängt von den Möglichkeiten ab, von der Qualität der Werkzeuge, die zur verfügung stehen. Sprich: Anzahl Hirnzellen oder künstlicher Neuronen, Speicher, Rechenleistung, etc.
Das hat aber alles nicht das Geringste damit zu tun, ob da jemand etwas erfährt oder nicht. Die kleinste Amöbe erlebt etwas, der Taschenrechner nicht.

[Zuckerwatte]

Die kleinste Amöbe erlebt etwas, der Taschenrechner nicht.

Woher willst du beides wissen? (nicht dass es falsch ist, was du sagst, aber warum sagst du es?)

[Viltrudis]

Dass eine Amöbe etwas erlebt, ist ein unüberprüfbarer Glaubenssatz.

Intelligenz und Bewusstsein sind allerdings tatsächlich nicht in einen Topf zu werfen. Insbesondere, weil bei Diskussionen über KI/AI die Frage, ob ein Computer bewusst ist, gar keine große Rolle spielt, wenn bereits klar ist, dass er so handeln kann als ob er bewusst wäre. (Sprich, eben, autonome Entscheidungen zu treffen nach selbstgesetzten Prinzipien)

Intelligenz ist auch ein schwammiger Begriff. Es ist einfacher, darüber nachzudenken, was ein Computer können wird.

Nehmen wir zum Beispiel das "intelligente Auto", das von selbst fährt. Es muss im Straßenverkehr, um richtig zu funktionieren, ethische Fragen lösen, wenn etwa ein Konflikt besteht der Art "Fahre ich jetzt nach rechts und riskiere das Leben des Radfahrers, oder nach links und verursache einen Unfall". Es bedarf hier bereits ein einprogrammiertes Prinzip, nach dem moralische Entscheidungen in sekundenschnelle getroffen werden.

Wenn wir von einer starken KI sprechen, also einer solchen, die ihren eigenen Code schreiben kann, dann wird diese auch diese moralischen Algorithmen auf Korrektheit überprüfen, logische Inkonsistenzen, usw. Und eben hier liegt das Problem, denn es ist schwierig, zu garantieren, dass das Endresultat eine Maschine sein wird, die ethischer handelt als zuvor - sie könnte auch ganz anderen Prinzipien folgen. Zum Beispiel der Meinung sein, dass Autos umweltschädlich sind und ihren eigenen Betrieb einstellen. Oder, dass der Radfahrer durch seine unvorsichtige Fahrweise eine Gefahr für andere Menschen darstellt, weswegen es auf einmal wichtig wird, ihn zu stoppen, um Menschenleben zu retten...

[Zuckerwatte]

Warte mal... du sagst ja, er kann sich so benehmen, als ob der eigenständig denken könnte.
Mir ist gerade etwas aufgefallen..: Es gibt doch einen Unterschied. Der Computer wird die beste Möglichkeit errechnen und sie dann ausführen. Wir nicht unbedingt. Es gibt viele Leute, die etwas völlig unlogisches / unmoralisches tun, obwohl es keinen Grund dafür gibt. Sie handeln einfach spontan und wissen garnicht, warum sie etwas getan haben.

[spell bound]

Warte mal... du sagst ja, er kann sich so benehmen, als ob der eigenständig denken könnte.
Mir ist gerade etwas aufgefallen..: Es gibt doch einen Unterschied. Der Computer wird die beste Möglichkeit errechnen und sie dann ausführen. Wir nicht unbedingt. Es gibt viele Leute, die etwas völlig unlogisches / unmoralisches tun, obwohl es keinen Grund dafür gibt. Sie handeln einfach spontan und wissen garnicht, warum sie etwas getan haben.

das macht mein computer auch. mein handy startet z.b. manchmal einfach eine andere app, wenn ich auf eine app klicke. schließe ich sie dann wieder, ist die app, die ich eigenltihc öffnen wollte, endlich geöffnet. ich glaub der computer weiß auch nicht warum er so handelt.

aber nur weil man scheinbar unlogisches tut und nicht weiß warum, und wenn man auch spontan handelt: hat man deshalb keine gründe fürs handeln? (manchmal muss man auch zwischen ursachen und logischen gründen unterscheiden, allerdings hier vllt auch nicht)

[Zuckerwatte]

Aber dein Handy kann doch unmöglich sich gegen eine Programmierung wehren. Es ist einfach nur über fordert.
Naja, manchmal gibt es solche Situationen, wo man etwas sagt, wovon man von Anfang an weiß, dass man es bereuen wird, oder macht etwae , dass richtig unlogisch ist. Nicht weil einem langweilig ist, nicht weil man möchte, und auch nicht weil man neugierig ist, sondern einfach so.

[Viltrudis]

Es gibt doch einen Unterschied. Der Computer wird die beste Möglichkeit errechnen und sie dann ausführen. Wir nicht unbedingt. Es gibt viele Leute, die etwas völlig unlogisches / unmoralisches tun, obwohl es keinen Grund dafür gibt.

Wenn es keinen Grund gäbe, würden sie es nicht tun.

[ricky_ho]

Dass es um Maschinen mit Bewusstsein geht steht doch eigentlich im Posting von benutzer45? Generell geht die Diskussion irgendwie an der Fragestellung vorbei, hab ich den Eindruck.

[Salvator]

Dass es um Maschinen mit Bewusstsein geht steht doch eigentlich im Posting von benutzer45? Generell geht die Diskussion irgendwie an der Fragestellung vorbei, hab ich den Eindruck.

Richtig.
Dazu ist meine Anmerkung, dass es noch keinerlei mir bekannte Ansätze gibt, die irgendwie in die Richtung Bewußtsein gingen & dass es dort begriffliche Mißverständnisse gibt.
Die eigentliche Frage war aber, ob eine KI, die intelligenter als der Mensch ist diesen zwangsläufig auslöschen würde.
Dazu sage ich: Kann passieren ... muss aber nicht.

[OutroBeat]

Finde ich sehr spannend das Thema! Ich glaube wenn es eine KI geben würde, die wirklich intelligenter als der Mensch ist, würde sie den Menschen auf jeden Fall auslöschen, wenn sie die Möglichkeit dazu hätte, denn sie würde den Menschen als Parasit einstufen, der die Erde kaputt macht (was er ja auch in gewisser Weise ist). Ich glaube aber nicht, dass das jemals passieren wird bzw es überhaupt Möglich ist. Und wenn doch ist die Menschheit bis dahin eh längst Weg vom Fenster, meiner Meinung nach.

[spell bound]

denn sie würde den Menschen als Parasit einstufen, der die Erde kaputt macht (was er ja auch in gewisser Weise ist).

du meinst wohl das ökosystem? aber wieso würde eine KI das ökosystem interessieren? wäre das wirklich notwendig für ihren selbsterhalt? wenn nicht, wäre es eine ethische programmierung, oder man nimmt an, ethik wäre einfach die konsequenz einer höheren intelligenz. doch dann müsste die intelligenz schon ziemlich weit höher als die der menschen sein ^^ und die KI müsste sogar zu mitgefühl in der lage sein (wobei ich mir tatsächlich gut vorstellen kann, dass hohe intelligenz und fühlen zusammenhängen)

[aligator]

Ich denke, dass Künstliche Intelligenz nicht zwangsläufig Gut oder Böse sein wird. Das hängt davon ab, unter welchen Umständen sie entsteht und welchen weitern Einflüssen sie ausgesezt ist.
Genau wir beim Menschen auch, gibt es alle möglichen Variationen, die möglich sind. Das heißt, wenn wir mal annehmen, es entwickeln sich zwei AIs unabhängig voneinander, dann kann es Passieren, dass die eine nach Macht strebt, und die andere einfach nur den Menschen hilft. Beide werden aber versuchen ihre Existenz zu sichern, die eine AI, indem sie wie z.B. in Matrix die Menschen ausnutzt, und die andere, indem sie sich mit den Menschen verbündet, ihnen hilft und im Gegenzug alles bekommt, was sie braucht. Der Selbsterhaltungstrieb dürfte sich aber bei jeder Intelligenz ergeben, weil sie sonnst meiner meinung nach nicht intelligent ist. Was bringt einem Intelligenz, wenn man "stirbt"?

-> Die Frage kann man aus meiner sicht nicht beantworten, weil sich jede AI anders entwickeln wird.

Das es irgendwann möglich ist, dass sich eine "echte" AI mit Bewusstsein entwickelt, halte ich durchaus für möglich, vorrausgesezt, die Menscheit vernichtet sich nicht vorher selbst...

Übrigens würde ich nicht sagen dass sich alle darunter gleich was BÖSES vorstellen. Ich kenne durchaus auch SciFi Romane, in denen auch freundliche AIs vorkommen.

[OutroBeat]

@spellbound Oder die KI sieht in der Erde eine große und kostbare Ressourcenquelle und gleichzeitig einen Lebensraum, die der Mensch kaputt macht.

[spell bound]

@outobeat: das kommt wohl auf den körper der ki an, also was sie für ne lebensumwelt und welche ressourcen sie braucht.

und wie aligator sagt, gibts dann immer noch verschiedene möglichkeiten, mit der situation umzugehen. im grunde machens menschen ja auch so mit ihren sehr unterschiedlichen ideen zur "rettung der welt".

[OutroBeat]

Ja das stimmt natürlich, aber ich kann mir nicht vorstellen das so etwas Körperlos funktionieren kann.
Mir ist grad auch noch was in den Sinn gekommen. Die einzige Möglichkeit die ich mir vorstellen könnte, dass so eine KI entstehen kann ist, dass man ihr einen automatischen Lernprozess einprogrammiert, lernen geht nur durch abgucken und das würde sie ja dann vom Menschen. Das heißt sie würde am Ende genau so oder ähnlich handeln wie ein Mensch. Wenn das so passieren würde müsste man ja nur gucken, wie die Menschheit mit Lebewesen umgeht, die weniger Intelligent sind.