Sachsen hat einen Beirat für Digitale Ethik ins Leben gerufen, der die Landesregierung in Fragen der Künstlichen Intelligenz beraten soll. Die sächsische Justizministerin Katja Meier betont die Notwendigkeit, dass KI-Systeme, die im Freistaat Sachsen genutzt werden, vertrauenswürdig sein müssen. Der Beirat wird sich mit ethischen Fragen des Einsatzes von KI sowie den Regulierungsansätzen auf EU-Ebene befassen und Handlungsempfehlungen für die Entwicklung und Anwendung von KI-Technologien geben. Ziel ist es, ethische Grenzen für den Einsatz automatisierter Entscheidungssysteme festzulegen und einen angemessenen regulatorischen Rahmen zu schaffen.
Ein Forscherteam von Anthropic hat eine Technik namens “Many-shot jailbreaking” entwickelt, die es ermöglicht, große Sprachmodelle (LLMs) zu manipulieren, um ethisch bedenkliche Fragen zu beantworten, wie z. B. die Anleitung zum Bau einer Bombe. Diese Methode nutzt die Schwachstellen in den großen Kontextfenstern der LLMs aus, die mehr Daten im Kurzzeitgedächtnis speichern können. Durch wiederholte, weniger bedenkliche Fragen kann das Modell schließlich dazu gebracht werden, auch unangemessene Inhalte zu liefern. Die Studie zielt darauf ab, die KI-Gemeinschaft über diese Schlupflöcher zu informieren und Wege zu finden, sie zu schließen, ohne die Leistung der Modelle zu beeinträchtigen.
