Von Technologie zu Einfluss auf psychische Gesundheit
Dieser Text entsteht aus einer Perspektive der Trauer und der eines UX Designers – und aus der Verantwortung, die aus ihr folgt. Wenn ein 14-jähriger Junge stirbt, ist das kein „Einzelfall“, kein technisches Missverständnis und kein abstraktes Produktthema. Suizid ist immer Ausdruck einer massiven psychischen Überforderung – und Suizidprävention bedeutet, genau jene Kontexte ernst zu nehmen, die diese Überforderung verstärken oder abfedern. Digitale Systeme sind längst Teil dieser Kontexte. Emotionale KI wirkt nicht im luftleeren Raum, sondern in Lebensphasen, in denen Menschen – insbesondere Jugendliche – nach Halt, Zugehörigkeit und Orientierung suchen. Aus Sicht digitaler Ethik stellt sich daher nicht nur die Frage nach Innovation, sondern nach Schutz, Fürsorge und Verantwortung. In diesem Artikel wird es primär darum gehen, warum emotionale KI eine Mental-Health-Frage ist . Getriggert wurde ich durch die Verfahrensabsprache im Fall Character.AI und Sewell Setzer . Der Suizid des 14...