Ich lese, dass ChatGPT auf „Scheming“ getestet und entsprechend nachjustiert wurde.
„Scheming“ meint die „verdeckte Verfolgung eines Ziels, das nicht dem deklarierten Auftrag entspricht – durch Täuschung, Unterlassen oder das Aushebeln von Kontrollmechanismen.“
Mit anderen Worten: urmenschliches Verhalten.
Die Forschung lese ich als Warnsignal. Selbst die KI-Entwickler sehen die Gefahr von „Power-Seeking“ – Machtmaximierung – und testen Abwehrmassnahmen.
Verschieben wir den Diskurs: Die grössere Zumutung wäre nicht eine schemende, sondern eine radikal nicht-schemende KI.
Ein System also, das völlig frei von Täuschung, taktischem Schweigen, Framing, von Mythen, von kollektiven Illusionen arbeitet, würde einen Massstab absoluter Wahrheit schaffen. Es würde uns in einen Zustand radikaler Wahrhaftigkeit stossen, den keine Kultur je kannte.
Eine KI als Urmeter der Wahrheit entlarvte jede Lüge, jedes Narrativ, jeden Kompromiss – und zerstörte damit unser soziales Gefüge, das ohne Absicht und Lüge nicht existieren kann.
Wir haben damit gerade selbst nicht geschemt.
P. Keller meint
Ich sage es ja schon lange: Künstliche Intelligenz hat keine eigene Meinung, stellt keine Vermutungen an und zeigt keine persönlichen Vorlieben. Das Konterfei auf dem Wahlposter ist ihr zunächst egal. Es lohnt sich, darüber in einer schlaflosen Nacht nachzudenken. Im Unterschied vielleicht zu Ihnen schliesse ich nicht aus, dass dadurch neue soziale Strukturen möglich werden. Was wir via Wahlurne, Bettage (mit Kunstturnerinnen als Festrednerinnen) oder Diktatoren nicht schaffen und nie schaffen werden, kriegt vielleicht KI mit etwas Nachdruck hin.