Neues Weißbuch von PEN America: Der menschliche Funke, der die Kreativität antreibt, muss geschützt werden, da potenzielle Bedrohungen durch künstliche Intelligenz drohen

Jul 25, 2023

Neue KI-Technologien sind zu einem zentralen Thema bei den Schriftsteller- und Schauspielerstreiks in Hollywood geworden

ZUR SOFORTIGEN VERÖFFENTLICHUNG

(NEW YORK) – PEN America warnt heute davor, dass generative künstliche Intelligenz eine neue Bedrohung für die freie Meinungsäußerung darstellen könnte, indem sie Täuschung und Unterdrückung verstärkt und die Arbeit von Schriftstellern und Künstlern beeinträchtigtSprache in der Maschine: Die Auswirkungen generativer KI auf die freie Meinungsäußerung, eine Analyse dieses technologischen Wendepunkts und seiner Auswirkungen auf das Vertrauen der Bürger, die freie Meinungsäußerung, den kreativen Ausdruck, die Authentizität und den Begriff der Wahrheit.

Die führende US-amerikanische Organisation für freie Meinungsäußerung und Schriftsteller geht in ihrem neuen Weißbuch auf Bekanntes und Unbekanntes über generative KI-Tools ein und bietet gleichzeitig Grundsätze als Leitfaden für politische Entscheidungsträger und andere, die mit den möglichen Auswirkungen auf die Gesellschaft ringen.

Das Weißbuch fügt den geäußerten Bedenken über generative KI die freie Meinungsäußerung hinzu und warnt davor, dass die Auswirkungen auf dieses Grundrecht – im Guten wie im Schlechten – davon abhängen werden, ob Regierungen und Privatunternehmen „ihre Menschenrechtsverantwortung definieren und umsetzen“.

Die Analyse erfolgt zu einem Zeitpunkt, an dem sich die neue Technologie als zentrales Thema bei den Streiks der Hollywood-Autoren und -Schauspieler herauskristallisiert hat, wobei beide Gruppen Bedenken hinsichtlich der Nutzung ihrer kreativen Leistung und des Potenzials der generativen KI zur Schädigung der Lebensgrundlagen geäußert haben. Autoren haben auch Klage eingereicht und argumentiert, dass aktuelle generative KI-Modelle ihre Urheberrechte verletzen.

„Wenn Schriftsteller und Schöpfer zunehmend durch Maschinen verdrängt werden, stellt dies nicht nur für diese kreativen Künstler eine Bedrohung dar, sondern für die Öffentlichkeit als Ganzes“, heißt es im Weißbuch. „Der Inspirationsspielraum, aus dem wirklich neue kreative Werke schöpfen, könnte eingeschränkt werden, und die eigentliche Kraft von Literatur, Fernsehen und Film, innovative Denkweisen zu katalysieren, könnte untergraben werden.“ Das Papier legt nahe, dass seine Verwendung in kreativen Bereichen möglicherweise zu Werken führen könnte, „die weniger reichhaltig sind oder die umfangreichen Nuancen menschlicher Erfahrung und Ausdruckskraft widerspiegeln“.

Suzanne Nossel, CEO von PEN America, sagte: „Wir können uns keinen weiteren Mangel an Vorstellungskraft leisten, wenn es um die Auswirkungen generativer KI auf die Gesellschaft geht.“ Während wir uns mit dem immensen Potenzial großer Sprachmodelle auseinandersetzen, müssen wir umfassend über ihr Potenzial nachdenken, unsere Arbeitsplätze, Schulen, Kultur und Gemeinschaften neu zu gestalten. KI-Modelle für große Sprachen sind von Natur aus abgeleitet. Je größer ihr Einfluss, desto einheitlicher können unser Fernsehen, unsere Filme und unsere Bücher werden. Ihr Potenzial, Unterhaltungsausgaben an die Anforderungen der Benutzer anzupassen, kann den Verbraucher zufriedenstellen und gleichzeitig unser menschliches kollektives Erlebnis beeinträchtigen. Die sozialen Medien haben uns gelehrt, dass die Fähigkeit dieser Systeme, die Gesellschaft umzugestalten, die Fähigkeit von Gerichten, Regulierungsbehörden und sogar den Urhebern selbst, potenzielle Schäden einzudämmen, übersteigen kann, sobald diese Systeme skaliert werden. Wir sind uns bewusst, dass diese Risiken bestehen, und tragen die dringende Verantwortung, sie zu bewerten und zu bewältigen, bevor die KI uns überholt.“

LESEN Sie Suzanne Nossels Essay in The New Republic mit dem Titel „Hollywoods Kampf gegen KI wird uns alle betreffen“, in dem es um das Potenzial generativer KI geht, Kultur, Diskurs und unseren Umgang miteinander neu zu gestalten.

Das 36-seitige Weißbuch von PEN America argumentiert, dass generative KI-Tools Inspiration und Einfallsreichtum fördern oder die menschliche Kommunikation auf eine Weise überholen können, die die Authentizität im öffentlichen Diskurs und den zugrunde liegenden Wert der offenen Meinungsäußerung untergräbt.

„Generative KI und automatisierte Tools bedeuten einen grundlegenden Wandel in der Art und Weise, wie Künstler, Journalisten und Schriftsteller Inhalte erstellen, mit ihnen interagieren und sie verbreiten und wie die Öffentlichkeit sie versteht und konsumiert.“ „Diese Veränderungen bieten Möglichkeiten für neue Formen des Ausdrucks und der Kreativität und stellen gleichzeitig eine Bedrohung für das Ausdrucksverhalten dar“, heißt es im Weißbuch.

Summer Lopez, Chief Program Officer für freie Meinungsäußerung bei PEN America, sagte: „Generative KI ist auf dem Weg, den Umgang der Menschheit mit Sprache und Informationen zu revolutionieren und die Möglichkeiten der Fantasie in vielen Bereichen neu zu gestalten.“ Während sich diese Technologien weiterentwickeln, müssen wir den einzigartigen menschlichen Funken der Inspiration schützen, der den kreativen Prozess antreibt, die Arbeit von Schriftstellern und Künstlern vor Usurpation oder Ausbeutung schützen und antizipieren, wie generative KI bestehende Bedrohungen der freien Meinungsäußerung beschleunigen kann. Wir müssen die Risiken jetzt erkennen und abwenden.“

Ab 2017 warnte PEN America in einem wegweisenden Bericht mit dem Titel „Faking News“ vor Desinformation und warnte vor Bedrohungen – unter anderem vor dem Aufstieg der Strongman-Politik und der Bewältigung von Krisen im Bereich der öffentlichen Gesundheit, die damals als „weit hergeholt“ galten spiegeln nun die Realität wider.

Die punktuellen und heftig umstrittenen Bemühungen von Technologieunternehmen und Social-Media-Plattformen, Desinformation zu bekämpfen, „könnten im Nachhinein wie eine bloße Probe für disruptivere Bedrohungen durch generative KI aussehen“, heißt es in dem Weißbuch.

Generative KI kommt genau zu dem Zeitpunkt, an dem wichtige Social-Media-Plattformen wie Facebook und Twitter/X das Personal, das für Online-Vertrauen und -Sicherheit verantwortlich ist, drastisch gekürzt haben.

Im Jahr 2019 dokumentierte der Bericht „Losing the News“ von PEN America den Zusammenbruch des Lokaljournalismus in den USA und die Folgen für die Demokratie und das Vertrauen der Bürger, ein unvorhergesehenes Ergebnis des Aufstiegs des Internets und der sozialen Medien, das auch unterstreicht, wie wichtig es ist, vorherzusehen, welche Auswirkungen generative KI haben könnte Auswirkungen auf das gesamte Informationsökosystem haben.

Zu den weiteren Bedenken im Zusammenhang mit der freien Meinungsäußerung zählte PEN America Folgendes:

Zu den jüngsten Bemühungen des Weißen Hauses und des Kongresses, die durch generative KI-Technologien aufgeworfenen Probleme anzugehen, gehören die Sicherstellung freiwilliger Zusagen von KI-Unternehmen durch die Biden-Administration für eine sichere, geschützte und transparente Entwicklung dieser neuen Technologien, das SAFE-Innovationsrahmenwerk („Security“) des Mehrheitsführers im Senat Chuck Schumer („Security“) , Rechenschaftspflicht, Schutz unserer Grundlagen und Erklärbarkeit“) soll als Leitfaden für eine umfassende KI-fokussierte Gesetzgebung dienen, nachdem bei einer Kongressanhörung im Mai zu KI Bedenken wie schädliche Inhalte, Desinformation, Rassenvoreingenommenheit und mangelnde Transparenz geäußert wurden.

In seinen Empfehlungen an politische Entscheidungsträger drängt PEN America auf einen Regulierungsansatz, der sowohl Risikoüberlegungen als auch Grundrechte berücksichtigt, und weist auf die Bedeutung und Überschneidung dieser Ansätze hin. Sie beobachten, was ihrer Meinung nach eine „falsche Dichotomie“ zwischen einem „rechtsbasierten“ Regulierungsansatz, wie dem Entwurf für eine KI-Bill of Rights der Biden-Administration, und einem „risikobasierten“ Ansatz, wie der KI der Europäischen Union, ist Act heißt es in dem Weißbuch: „Die Abgrenzung zwischen Rechten und Risiken ist nicht nur unnötig, einige dieser Dokumente, die angeblich in das eine oder andere Lager fallen, sind in Wirklichkeit beides.“

Das Weißbuch legt zusätzliche Leitprinzipien für politische Entscheidungsträger und die Industrie im Hinblick auf diese neue Technologie fest. Dazu gehören:

Über PEN America

PEN America steht an der Schnittstelle von Literatur und Menschenrechten, um die offene Meinungsäußerung in den Vereinigten Staaten und weltweit zu schützen. Wir setzen uns für die Freiheit des Schreibens ein und erkennen die Macht des Wortes an, die Welt zu verändern. Unsere Mission ist es, Schriftsteller und ihre Verbündeten zu vereinen, um kreativen Ausdruck zu feiern und die Freiheiten zu verteidigen, die ihn ermöglichen. Um mehr zu erfahren, besuchen Sie PEN.org

Kontakt: Suzanne Trimel, [email protected], 201-247-5057