KI-Agenten: Forscher simulieren Missbrauch durch Kriminelle

Lausanne – KI-Agenten lassen sich manipulieren und werden dadurch sogar zu bösartigen Angreifern. Wie ein Forscherteam der Eidgenössischen Technischen Hochschule Lausanne (EPFL) kürzlich in einer Untersuchung herausfand, können Personen mit böswilligen Absichten die KI-Agenten durch scheinbar harmlose Gespräche nach und nach umstimmen, sodass sie auf eingebauten Sicherheitsmaßnahmen nicht mehr…