Psychologie der KI in Bezug auf moralische Ratschläge

Im Bereich der digitalen (KI-)Psychologie untersucht die aktuelle Forschung am Lehrstuhl, wie künstlich generierte Beratung moralische Entscheidungsprozesse beeinflusst. In den bisherigen Studien zeigt sich, dass Menschen moralische Empfehlungen von Künstlicher Intelligenz in ähnlichem Maße berücksichtigen wie solche von menschlichen Quellen – unabhängig davon, ob die Hinweise vor oder nach einer Entscheidung erfolgen oder ob unterschiedliche Quellen miteinander konkurrieren.

Die Ergebnisse deuten darauf hin, dass solche Ratschläge als kognitive Short-Cuts dienen: Sie reduzieren die Komplexität moralischer Dilemmata, indem sie Orientierung bieten und Entscheidungsoptionen vereinfachen. Dabei spielt insbesondere der Inhalt der Empfehlung eine entscheidende Rolle: Ratschläge, die auf Pflichten oder dem Wohl anderer basieren (deontologisch bzw. altruistisch), erweisen sich als besonders überzeugend und können bestehende Entscheidungen sogar nachträglich verändern. Insgesamt verdeutlicht die Forschung, dass moralische Urteile weniger stabil sind als häufig angenommen und stark von situativen Einflüssen abhängen. Entscheidend für die Übernahme von Ratschlägen ist dabei weniger die Persönlichkeit der Entscheidenden, sondern vielmehr, wie hilfreich die jeweilige Empfehlung in der konkreten Situation wahrgenommen wird. 

Theoretisch knüpft diese Forschung an etablierte Ansätze der Sozial- und Kognitionspsychologie an, insbesondere an Dual-Process-Modelle moralischer Urteilsbildung, die Heuristik- und Bounded-Rationality-Forschung sowie Modelle der Persuasion. Gleichzeitig erweitert sie bestehende Erkenntnisse zur Wahrnehmung algorithmischer Entscheidungen, indem sie zeigt, dass KI auch in sensiblen moralischen Kontexten als gleichwertige und einflussreiche Entscheidungsquelle wahrgenommen werden kann.