Jüngste groß angelegte Tests, darunter ein von Microsoft simulierter Marktplatz und ein Red-Teaming-Wettbewerb, haben erhebliche Sicherheitslücken und Funktionseinschränkungen führender KI-Systeme aufgedeckt. Trotz Fortschritten haben aktuelle KI-Systeme Schwierigkeiten mit komplexen Entscheidungsprozessen und der Zusammenarbeit und sind anfällig für Manipulationen. Dies deutet darauf hin, dass sie noch nicht für einen breiten Einsatz in der Praxis geeignet sind.