Die Verwendung von Künstlicher Intelligenz (KI), insbesondere von generativer KI, ist aus unserer Zukunft kaum mehr wegzudenken. Eine neue technologische Revolution wurde ausgerufen, die ähnlich wie das Internet oder die Einführung des Mobilfunks den Alltag und das Berufsleben verändern wird. Doch diese neue Technologie birgt auch Risiken und wirft einige ethische Fragen auf.
Leitlinien für eine zugängliche, vertrauenswürdige und ethisch vertretbare KI
Damit das Potenzial generativer KI optimal genutzt werden kann und gleichzeitig Risiken minimiert werden, muss die verantwortungsvolle Entwicklung dieser Technologie oberste Priorität haben. Deshalb hat Salesforce bereits frühzeitig fünf Leitlinien für die generative KI-Entwicklung erstellt.
Darüber hinaus unterstützt Salesforce eine zielgerichtete, risikobasierte KI-Regulierung, die unterschiedliche Verwendungszwecke der Technologie differenziert. Ein maßgeschneiderter Ansatz ist dabei entscheidend: Es geht darum, eine Balance zwischen Datenschutz und Risikominimierung auf der einen, sowie Innovationsfähigkeit und gesunden Wettbewerb auf der anderen Seite, herzustellen.
Folgende Aspekte stehen bei Salesforce dabei im Mittelpunkt:
1. Risikobasierter Ansatz: Der Kontext, in dem eine Technologie eingesetzt wird, ist relevant. In einigen Branchen, wie beispielsweise dem Gesundheitswesen, gibt es aufgrund der Sensibilität persönlicher Daten ein höheres Risiko bei der Nutzung von KI als in anderen. Eine risikobasierte KI-Regulierung konzentriert sich daher vor allem auf Anwendungen, die weitreichende rechtliche, finanzielle und ethische Auswirkungen nach sich ziehen, erheblichen Schaden anrichten oder die Rechte und Freiheiten von Personen beeinträchtigen könnten.
2. Differenzierung: Regulierung sollte zwischen dem Kontext, in dem die Technologie angewendet wird, der Kontrolle und der Verwendung der Technologie unterscheiden und dementsprechend Leitlinien setzen. Entwickler:innen generativer KI sollten beispielsweise dafür verantwortlich sein, wie und mit welchen Daten ihre Modelle trainiert werden, während die Anbieter entscheiden, wie die Technologie eingesetzt wird und welche Regeln für die Interaktion festgelegt werden.
3. Datenschutz: Datenschutzgesetze, die das Recht auf Privatsphäre schützen, sind eine Grundlage für verantwortungsvolle KI-Regulierung. Zusätzliche Vorschriften – speziell für generative KI – sollten daher die Verwendung und den Schutz personenbezogener Daten für das Training künftiger Modelle regeln und den Schutz im KI-Ökosystem gewährleisten.
4. Transparenz: KI-Systeme können „Black Boxes“ sein. Das macht es schwierig, Entscheidungsprozesse zu verstehen. Jede:r sollte aber in die Lage versetzt werden, das „Warum“ hinter KI-gesteuerten Empfehlungen zu verstehen und darüber im Bilde sein, ob sie mit einem Menschen oder einer simulierten Persona interagieren.
5. Rechenschaftspflicht & staatliche Aufsicht: Regierungen verfügen über zahlreiche Mechanismen, um die Einhaltung von Vorschriften im Blick behalten zu können. Diese sollten jedoch stets ausgewogenen und maßvoll eingesetzt werden. So sind KI-Folgeabschätzungen eine gute Möglichkeit, Vertrauen in KI-Systeme mit hohem Risiko zu fördern. Auch Lizenzierungen oder Anzeigepflichten von KI-Systemen gegenüber der Regierung sind denkbar.
6. Harmonisierung bestehender Vorschriften: Viele bereits vorhandene Gesetze und Vorschriften bieten Leitlinien für KI, wie z.B. globale Datenschutzgesetze. Wenn Regulierungsbehörden und andere Interessengruppen neue Leitlinien entwickeln, sollte geprüft werden, ob diese nicht bereits über ein bestehendes Gesetz abgedeckt sind.
7. Zukunftsfähigkeit und globale Anwendung: KI-Vorschriften sollten einen politischen Rahmen für die ethische Entwicklung und den Einsatz von KI-Systemen setzen und sich nicht auf eine bestimmte Technologie zu einem bestimmten Zeitpunkt fokussieren. Aufgrund der schnellen technologischen Weiterentwicklung sollten sie flexibel und weltweit kompatibel sein.
Schulterschluss von Regierungen, Industrie, Wissenschaft und Zivilgesellschaft
Salesforce arbeitet weltweit proaktiv mit Regierungen und Interessengruppen zusammen, um verantwortungsvolle, risikobasierte und global anwendbare KI-Normen voranzutreiben.
Die Europäische Union hat bereits vor einigen Jahren begonnen, mit dem AI Act einen rechtlichen Rahmen für KI- Anwendungen zu schaffen und folgt dabei dem risikobasierten Ansatz. Das bedeutet, dass für KI-Systeme, die bei kritischen Infrastrukturen wie Energieversorgung oder Verkehrslenkung eingesetzt werden, andere Regeln gelten, als für Service-Chatbots, die bei der Urlaubsplanung beraten. Salesforce würde es ausdrücklich begrüßen, wenn dies auch im endgültigen Gesetzestext berücksichtigt wird.
Wir sind der Überzeugung, dass politische Entscheidungsträger:innen und relevante Akteure weltweit eng zusammenarbeiten sollten, um die Chancen und Herausforderungen der generativen KI gemeinsam anzugehen. Wir unterstützen die Position der Bundesregierung, dass eine innovationsfreundliche, zukunftsorientierte und ausbalancierte rechtliche Regelung oberstes Ziel sein sollte. Die multilaterale Arbeit in Gremien wie der G7 und der OECD ist aus unserer Sicht der richtige Weg, um gemeinsame Leitlinien für den Umgang mit generativer KI zu erarbeiten und beispielsweise einen globalen Verhaltenskodex zu entwickeln.
Dieser wäre ein probates Mittel, um bereits vor der Implementierung eines gesetzlichen Rahmens einen global anerkannten Standard zu setzen und für alle Beteiligten Transparenz und Verbindlichkeit zu schaffen.
Weitere Informationen:
- Entdecken Sie, was Generative AI ist und wirklich kann (und was nicht)!
- 5 Leitlinien von Salesforce für eine verantwortungsvolle generative KI-Entwicklung
- Tipps für die sichere Integration von generativer KI in Geschäftsanwendungen
- AI Cloud – bewährte generative KI für jedes Unternehmen
