Den Satz zu erfassen, dafür reicht mein IQ leider nicht aus.
Mmh, ja, sorry, wenn ich versuche mehrere Sätze in einen zu packen, damit ich's kurz halte, kommt oftmals so ein unverständlicher Mist raus
In der derzeitigen KI Forschung wird die Motivation von außen, d. h. von Entwicklern vorgegeben. Es wird definiert, was Erfolg ist. Was dann in der Black Box passiert, ist weitestgehend unbekannt. Handelt es sich beispielsweise um ein Programm, dass mit Menschen in einen Dialog gehen soll, müssen diese Parameter vorgegeben werden. Z. B. vereinfacht gesagt: Ein Erfolg ist gegeben, wenn die Konversation über so und soviel Sätze geht. Daran lernt die KI dann, innerhalb ihrer Möglichkeiten, ein Subset von Algorithmen zu erstellen, die darauf ausgerichtet sind, mindestens 10 Sätze hin und her zu labern. Der Erfolg ist die Basis auf derer die erstellten Subalgorithmen beibehalten werden oder nicht.
Was bei vielen Menschen bezgl. KI Angst auslöst, ist die Vorstellung, dass diese eine Art Bewusstsein oder eigene Vernunft entwickelt und damit entfesselt wird. D. h. sich ihre eigenen Erfolgsparameter erstellt - die dann entsprechend eines komplett unterschiedlichen Motivationsdrucks zu biologischen Lebewesen eben auch komplett unterschiedlich sind. Damit wäre eine solche KI für die menschliche Existenz eine Konkurrenz, also nicht nur auf Jobebene. Diese Angst ist weitestgehend unberechtigt. Was aber dann passieren könnte, beschreibt Lem ansatzweise in diesem Buch. Oder präziser, er beschreibt den Blick einer solchen Maschinenvernunft auf die Menschheit - keinesfalls dystopisch aber durchaus niederschmetternd. Denn diese Maschine hat als Erfolgsparameter nicht die Weitergabe der Geninformation in einem evolutionär bedingten Sumpf des Massenaussterbens als Basis.
Eine berechtigte Angst bzgl. der KI-Entwicklung sind solche Sachen wie automatisierte Waffensysteme oder ein komplett technokratisches Micromanagement von Gesellschaft. Sollte es sich ergeben, dass z.B. eine KI die Aufgabe bekommt den Mangel an Nahrung in bestimmeten Regionen der Welt zu managen und dafür zu sorgen, dass das Individuum genug zu essen hat, könnte sie durchaus auf die "Idee" kommen, je nach mehr oder weniger schwach definierten Erfolgsparametern, eine Chemikalie in die Grundwasserversorgung zu entlassen, die zu einer gewissen Unfruchtbarkeitsrate bei Frauen oder Männern in dieser Region führt. Damit wäre dann ja auch das "Problem Nahrungsunterversorgung" in ein, zwei Generationen gelöst. Solche "unmenschlichen" Lösungen sind zwar effektiv, aber ...na ja.