Offene KI-Modelle: Nvidia warnt öffentlich vor übereilten Verboten

Mit seinem ersten Beitrag auf X macht Nvidia-Chef Jensen Huang auf einen gemeinsamen Appell von 25 Unternehmen und Organisationen aufmerksam. Die Unterzeichner sehen frei verfügbare Modellgewichte als Grundlage für Wettbewerb, Sicherheit und die technologische Souveränität der USA. 25 Unterzeichner werben für Open Weights Das am 24. Juli veröffentlichte Positionspapier trägt den Titel „Open Weights and American AI Leadership“. Neben Nvidia haben es unter anderem Microsoft, Meta, IBM, Dell Technologies, Mistral AI, Mozilla, Hugging Face, Palantir, Perplexity und die Linux Foundation unterzeichnet. Auch mehrere Investoren und jüngere KI-Unternehmen unterstützen den Appell. Nach Ansicht der Unterzeichner erleichtern offene Gewichte Start-ups, Unternehmen, Hochschulen und öffentlichen Einrichtungen den Zugang zu leistungsfähiger KI. Sie könnten vorhandene Modelle an eigene Anforderungen anpassen, lokal betreiben und müssten nicht für jede Aufgabe auf die Schnittstelle eines einzelnen Anbieters zurückgreifen. Das verringere Abhängigkeiten und fördere den Wettbewerb zwischen Modellentwicklern, Cloud-Anbietern, Chip-Herstellern und Software-Unternehmen. Was sind die Gewichte eines KI-Modells? Ein KI-Modell besteht aus einem großen Netz mathematischer Verknüpfungen. Die sogenannten Gewichte sind die dabei gespeicherten Zahlenwerte, die bestimmen, wie stark einzelne Informationen bei der Berechnung berücksichtigt werden. Sie sind das Ergebnis des Trainings und enthalten gewissermaßen das erlernte Verhalten des Modells. Bei einem Sprachmodell beeinflussen die Gewichte beispielsweise, welche Wörter und Zusammenhänge das System erkennt und welche Antwort es auf eine Eingabe erzeugt. Je größer ein Modell ist, desto mehr solcher Werte besitzt es. Moderne Sprachmodelle können aus mehreren Milliarden oder sogar Billionen Parametern bestehen, zu denen diese Gewichte gehören. Wer die Modellgewichte herunterladen kann, erhält damit den wesentlichen betriebsbereiten Teil des KI-Modells. Das Modell lässt sich dann auf eigenen Servern ausführen, für bestimmte Aufgaben anpassen oder technisch untersuchen. Die ursprünglichen Trainingsdaten sind in den Gewichten allerdings nicht als einfach auslesbare Sammlung enthalten. Open Weight bedeutet deshalb auch nicht automatisch Open Source. Der Hersteller kann zwar die trainierten Gewichte veröffentlichen, zugleich aber den Trainingscode, die verwendeten Datensätze oder genaue Angaben zur Entwicklung zurückhalten. Risiken sollen nicht zu Verboten führen Die Risiken offener Modelle werden in dem Papier nicht ausgeblendet. Einmal veröffentlichte Gewichte ließen sich vom ursprünglichen Entwickler kaum noch kontrollieren; veränderte Fassungen seien zudem nur schwer nachzuverfolgen. Ein generelles Verbot oder vorschnelle Beschränkungen seien dennoch der falsche Weg. Die Allianz argumentiert, dass auch Verteidiger in der IT-Sicherheit Zugang zu leistungsfähigen Modellen benötigten. Eine breite Gemeinschaft könne Modelle untersuchen, Schwachstellen finden und Schutzmaßnahmen entwickeln. Geschlossene Systeme seien dagegen nicht automatisch sicherer und könnten durch die Konzentration auf wenige Anbieter selbst zu einem Risiko werden. Auch Modelldestillation wird verteidigt Ein eigener Abschnitt widmet sich der Modelldestillation. Dabei werden Ausgaben eines größeren Modells genutzt, um ein anderes Modell zu trainieren oder zu verbessern. Diese verbreitete Technik dürfe nicht pauschal mit dem unrechtmäßigen Abschöpfen geschlossener Modelle gleichgesetzt werden, heißt es im Appell. Tatsächliche Rechtsverstöße sollten stattdessen mit gezielten gesetzlichen und kommerziellen Regeln verfolgt werden. Für Nvidia ist der Vorstoß zugleich wirtschaftlich interessant. Je mehr Unternehmen offene Modelle auf eigenen Servern oder bei unterschiedlichen Cloud-Anbietern betreiben, desto größer fällt der Bedarf an KI-Beschleunigern und weiterer Rechenzentrums-Hardware aus. Huang schreibt in seinem ersten X-Beitrag entsprechend, die Welt benötige sowohl führende geschlossene als auch führende offene Modelle.