
Nach Angaben des Unternehmens senkten Änderungen am Training den Wert von Kimi K3.1 Pro bei einem internen Schwachstellentest, während allgemeine Programmierfähigkeiten erhalten blieben.
Moonshot AI zufolge hat das Unternehmen die offensiven Cyberfähigkeiten von Kimi K3.1 Pro reduziert. Das Modell erreichte bei einem internen Test zum Auffinden und Ausnutzen von Softwareschwachstellen 81 %. Eine ähnliche Version ohne die Maßnahmen zur Risikoreduzierung kam auf 90,5 %.
Das Unternehmen erklärte, es habe einige cyberbezogene Daten aus dem Trainingsmaterial und den Umgebungen für bestärkendes Lernen entfernt und zugleich versucht, allgemeine Programmierfähigkeiten zu erhalten. Der Test habe in einer kontrollierten Umgebung stattgefunden. Das neue Modell habe seinen Vorgänger dennoch übertroffen.
Die Ergebnisse wurden nicht unabhängig überprüft. Der Wert zeigt einen Rückgang beim Test des Unternehmens, nicht aber, dass das Modell keine Schwachstellen mehr finden oder ausnutzen kann.
„Wir wollen keine offenen Modellgewichte veröffentlichen, die die absolute Grenze der Cyberfähigkeiten weiter verschieben würden“, sagte Moonshot.
Moonshot plant, die Modellgewichte von Kimi K3.1 Pro bis zum 4. November zu veröffentlichen. Mit den Dateien könnten externe Entwickler das Modell auf eigenen Systemen ausführen und verändern. Eine breite Verbreitung kann es dem Unternehmen jedoch erschweren, den Zugang zu beschränken, die Nutzung zu überwachen oder Schutzmaßnahmen zu aktualisieren.
Das Modell gehört laut Unternehmen zur Klasse mit 3 Billionen Parametern und hat ein Kontextfenster von 1 Million Token. Moonshot brachte außerdem K3.1 Pro Highspeed heraus. Diese Version laufe nach Angaben des Unternehmens zwei- bis dreimal schneller als die Standardversion.
Die Ankündigung erfolgt, während China geplante Exportkontrollen für einige KI-bezogene Technologien prüft. Der Entwurf würde den Export von KI-gestützter Technologie zur Erstellung und Veränderung von Schadsoftware verbieten und KI-gestützte Werkzeuge zum Aufspüren von Schwachstellen beschränken, berichtete The Business Times. Der Entwurf kann weiterhin öffentlich kommentiert werden.
Der Entwurf verweist auf Risiken für kritische Infrastruktur, verteidigungsindustrielle Systeme und Regierungssysteme. Moonshots Entscheidung und die geplanten Kontrollen betreffen ähnliche Sicherheitsbedenken. Das Unternehmen hat jedoch nicht erklärt, dass staatliche Vorgaben die Änderungen am Training erforderten.
Dieser Inhalt wurde mithilfe von KI-Technologien erstellt. Beruht auf Berichten der oben genannten Medien.
Noch keine Kommentare - seien Sie der Erste.