Literatur- und Medienwissenschaftlerin Stephanie Catani (Universität Würzburg) im Gespräch zur Rolle von ChatGPT und KI allgemein im Kunstbereich

NG

Frau Cata­ni, in der vier­ten Staf­fel von True Detec­ti­ve weist Jodie Fos­ter als Chief Liz Dan­vers ihren jün­ge­ren Poli­zei­kol­le­gen mehr­mals im Lau­fe der Serie dar­auf hin, die „rich­ti­gen“ Fra­gen zu stel­len. Wie beur­tei­len Sie die von ChatGPT gene­rier­ten Fra­gen zu KI und den Küns­ten? Sind es die „rich­ti­gen“ Fra­gen, oder gibt es die­se gar nicht?

SC

Ich fin­de es tat­säch­lich schwie­rig zu sagen, was rich­ti­ge Fra­gen sind. Sinn­vol­le, oder dem The­ma ange­mes­se­ne Fra­gen – das wäre mög­lich, aber ich wür­de ver­su­chen, im Umgang mit Künst­li­cher Intel­li­genz das Wort „rich­tig“ zu ver­mei­den. Ich fin­de aber, dass die weni­gen Fra­gen, die ich hier sehe, durch­aus eine Berech­ti­gung haben. Das wun­dert mich nicht, weil es die Fra­gen sind, die gesell­schaft­lich gese­hen und auch mit Blick auf Kunst und KI die grö­ße­re Rol­le spie­len. Es ist ein sto­chas­ti­scher Pro­zess, d.h. die Wahr­schein­lich­keit, dass die­se Fra­gen auf­ge­wor­fen wer­den, leuch­tet mir durch­aus ein. Gleich­zei­tig wird bereits sicht­bar, wie poli­tisch kor­rekt die­se Model­le ange­legt sind. Dass es so schnell auf die Fra­ge der Geschlech­ter­ge­rech­tig­keit zu spre­chen kommt, das liegt tat­säch­lich auch dar­an, dass man bei der Ver­si­on 3 schon sehr bemüht war, sol­che poli­tisch kor­rek­ten Aspek­te zu inklu­die­ren, statt auszuschließen.

NG

ChatGPT geht aller­dings von einem 2‑Ge­schlech­ter-Modell aus, oder?

SC

Ja, das neh­me ich an. Ich habe selbst ver­sucht, mit Dop­pel­punk­ten sowie Strich und Stern­chen zu arbei­ten, – doch das funk­tio­niert nicht son­der­lich gut. Ich glau­be auch, alle Fang­fra­gen, die man dem Pro­gramm stellt, um es zu einer Geschlech­te­run­ge­rech­tig­keit zu bekom­men, enden immer damit, dass in ein 2‑Geschlechtersystem unter­schie­den wird. Ich bin mir ziem­lich sicher, wür­de man kon­kret fra­gen: „Gibt es mehr als zwei Geschlech­ter?“, so wür­de wahr­schein­lich eine um poli­ti­sche Kor­rekt­heit und gleich­zei­tig auch um vage Aus­sa­gen bemüh­te Ant­wort kom­men. Man kann es dar­über hin­aus ziem­lich schnell bei Sexis­men ent­lar­ven. Abge­se­hen davon ist das Modell bei ein­fa­chen Fra­gen bemüht, bei­de Geschlech­ter glei­cher­ma­ßen sicht­bar zu machen.

NG

Als ich Ihnen mein Vor­ha­ben für das Inter­view geschil­dert habe, frag­ten Sie sofort, wel­che Ver­si­on von ChatGPT ich ver­wen­det hät­te. Was wären die Unter­schie­de gewesen?

SC

Die Ver­si­on inter­es­siert mich immer, weil sich der Daten­kor­pus voll­kom­men ver­än­dert hat – in einem gigan­ti­schen Aus­maß – und weil das Modell in der Fähig­keit zu for­mu­lie­ren, viel­leicht noch bes­ser, aber in der inhalt­li­chen Prä­zi­si­on schlech­ter gewor­den ist. Das heißt, die Text­men­ge, auf die das Modell zugreift, wird immer grö­ßer und immer weni­ger spe­zi­fisch. Jede Fra­ge, die ich zu einem spe­zi­fi­schen The­ma stel­le, wird dadurch weni­ger mit Tex­ten aus die­sem Bereich gefüt­tert als viel­mehr mit Tex­ten, die mög­lichst all­ge­mein gehal­ten sind. Des­halb ist es sehr schwie­rig, prä­zi­se Ant­wor­ten zu bekom­men. Ich fin­de, dass die Fra­gen über­ra­schend prä­zi­se sind und auch sehr schnell auf das The­ma zu spre­chen kom­men, um das es geht – KI und Kunst.

NG

Die Zukunfts­for­sche­rin Flo­rence Gaub sagt, „[d]ie Deut­schen lei­den an einem „Future Shock“, des­halb ver­wei­gern sie sich dem Neu­en.“ (ZEIT, N°7, 8.2.2024). Trifft das auch auf die Akzep­tanz und Rezep­ti­on von künst­li­cher Intel­li­genz in den Küns­ten zu? Wie erle­ben Sie als Lite­ra­tur- bzw. Medi­en­wis­sen­schaft­le­rin den Ein­zug von KI im Kunst­be­reich und wie reagie­ren Künstler*innen und Rezipient*innen darauf?

SC

Das ist eine recht gro­ße Fra­ge. Bei mir war das ein lan­ger Pro­zess. Ich habe vor sechs Jah­ren ange­fan­gen, mich mit dem The­ma aus­ein­an­der­zu­set­zen – eher durch Zufall. Damals gab es die ers­ten gro­ßen Sprach­mo­del­le [GPT‑1 wur­de 2018 ein­ge­führt, Anm. d. Red.]. Das „neue gro­ße Ding“ zu die­ser Zeit war ein Har­ry Pot­ter-Kapi­tel „The Hand­so­me One“ – gram­ma­ti­ka­lisch voll­kom­men falsch und mit absur­den Plot Twists – das von einem Modell erstellt wor­den war. Bot­nik Stu­di­os, eine Künst­ler­ver­ei­ni­gung aus New York, hat­te ein Modell mit den vor­han­de­nen Har­ry Pot­ter-Roma­nen gefüt­tert und es beauf­tragt, ein wei­te­res Kapi­tel zu schrei­ben. Immer, wenn ich heu­te Vor­trä­ge hal­te und auch Wis­sen ver­mit­teln will, zei­ge ich das und anschlie­ßend zei­ge ich, was ChatGPT4 ver­fasst, wenn ich sage, es gibt sie­ben Har­ry Pot­ter-Bücher, wie könn­te ein ach­tes aus­se­hen? Ich möch­te nicht sagen, dass ich das kau­fen wür­de, aber das ist schon ein guter und kohä­ren­ter Text, der an die ande­ren Bän­de anschließt.  Das heißt, in den letz­ten sechs Jah­ren ist sehr viel passiert.

Die Künstler*innen, die Kunst, die Lite­ra­tur, die mich inter­es­siert, gibt es aller­dings schon län­ger. Künstler*innen und Autor*innen wie die Programmierer*innen Nick Mont­fort, Han­nes Bajohr, Alli­son Par­rish oder Jörg Pirin­ger haben vor­her bereits mit Algo­rith­men gear­bei­tet und dann, als die ers­ten Sprach­mo­del­le erschie­nen sind, ange­fan­gen auch damit zu expe­ri­men­tie­ren. Die KI hat sicher­lich zu einer ande­ren Text- und Bild­pro­duk­ti­on geführt, aber in die­sem Bereich, der avant­gar­dis­ti­schen, ori­gi­nel­len Kunst und Lite­ra­tur, der mit Kunst auch über Kunst etwas sagt, war das eigent­lich ein schlei­chen­der Pro­zess, der gar nicht zu solch radi­ka­len Wel­len geführt hat, wie es ver­mut­lich in der öffent­li­chen Wahr­neh­mung durch die Frei­schal­tung von ChatGPT den Anschein hatte.

Es gibt aller­dings auch vie­le Grün­de von einer Zäsur zu spre­chen. Der ers­te Grund wäre das Urhe­ber­recht. Dort fehlt es mas­siv an Bestim­mun­gen. Die zwei­te Zäsur ist eine ethi­sche und hat mit die­sem pro­prie­tä­ren Modell zu tun. Wir haben gro­ße Fir­men, die im Grun­de eine Mono­pol­stel­lung haben und wir wis­sen nicht, womit die­se Model­le gefüt­tert wur­den. Hin­zu kommt, und das wäre der drit­te gro­ße Punkt, über den gar nicht gere­det wird, dass vor allem ChatGPT3 und 4 bemüht sind, poli­tisch kor­rekt zu sein, eben­so die Bild-Gene­rie­rungs­pro­gram­me. Das war nicht immer so. Dafür zahlt aller­dings jemand einen Preis, und zwar nicht wir, son­dern meis­tens Click-Worker*innen im glo­ba­len Süden. Arbeiter*innen, die in der Regel ohne irgend­ei­ne Form von Super­vi­si­on, ohne arbeits­recht­lich ver­si­chert zu sein und zu abso­lut pre­kä­ren Bedin­gun­gen in Sekun­den­schnel­le tag­gen oder ent­schei­den müs­sen: ist das por­no­gra­phisch? Ist das sexis­tisch? Ist das ras­sis­tisch? Das heißt, die rei­nen Daten, die wir ver­meint­lich haben, sind zu einem hohen Preis gekauft. Die­se 3 Punk­te – Daten­in­trans­pa­renz, das Geschäft mit den Datenbereiniger*innen, ‑aufbereiter*innen, ‑tagger*innen usw., die urhe­ber­recht­li­che Fra­ge – das sind die eigent­li­chen Zäsu­ren und nicht die Fra­ge „ist das Kunst oder ist das KI-gemacht?“ Das ist oft eine Zuspit­zung, die durch die Rezipient*innen erst erfolgt.

NG

Das lenkt ver­mut­lich auch ein biss­chen von den eigent­li­chen Pro­ble­ma­ti­ken ab.

SC

Ich habe das Gefühl, dass die Medi­en in Bezug auf KI-Kunst ganz ande­re Tex­te oder Kunst in den Blick neh­men, als eigent­lich da ist oder im Hand­buch KI und die Küns­te ver­han­delt wird. Das sind avant­gar­dis­ti­sche Tex­te, Text­ex­pe­ri­men­te von Leu­ten, die in der Infor­ma­tik, in der Lite­ra­tur arbei­ten. Aber die Tex­te, die in die Medi­en kom­men, wie bei­spiels­wei­se Mein Algo­rith­mus und ich von Dani­el Kehl­mann, der 2020 ins Sili­con Val­ley reist, um sich mit einem voll­kom­men ver­al­te­ten Sprach­mo­dell – das er deut­lich ein­fa­cher, bil­li­ger und genau­er auch hier in Deutsch­land hät­te haben kön­nen – in einen Schreib­wett­kampf zu bege­ben. Das hat die Pres­se zumin­dest dar­aus gemacht. Eigent­lich war das Ver­suchs­de­sign: „wir schrei­ben zusam­men einen Text“. Die Reak­ti­on dar­auf war aller­dings Erleich­te­rung, dass Kehl­mann ganz offen­sicht­lich der bes­se­re Autor ist als die­ses Pro­gramm. Das, fin­de ich, hat­te etwas unglaub­lich Deut­sches. Ich habe das Gefühl, dass die­ses Genie­mo­dell und die­ses star­ke mensch­li­che – oder auch männ­li­che – Genie, das immer noch trans­por­tiert wird, von tra­dier­ten Vor­stel­lun­gen einer Genie­äs­the­tik und eines sin­gu­lä­ren und auf sei­ne eige­nen Kräf­te kon­zen­trier­ten Autor­ge­nies bezo­gen ist, das so ohne­hin nicht mehr mit der Gegen­wart, mit der Gegen­warts­li­te­ra­tur, über­ein­stimmt. Und ich habe das Gefühl, dass die­se Dis­kus­si­on vor allen Din­gen in Deutsch­land eine kon­ser­va­ti­ve­re ist, als das woan­ders der Fall ist. Mei­ne Begrün­dung dafür ist viel­leicht auch, dass das Fach Krea­ti­ves Schreiben/Creative Wri­ting bei­spiels­wei­se in ang­lo-ame­ri­ka­ni­schen Län­dern viel stär­ker in die aka­de­mi­sche For­schung und Leh­re ein­ge­bun­den ist. Nick Mont­fort, Alli­son Par­rish, Mark Mari­no, das sind alles Leu­te, die KI gene­rier­te Tex­te her­aus­brin­gen oder mit KI gene­rier­ten Tex­ten arbei­ten, damit spie­len, als Autor*innen sol­cher Tex­te auf­tre­ten und gleich­zei­tig Professor*innen am MIT oder an ande­ren wich­ti­gen Design-Labs sind. Das hat ein ganz ande­res Stan­ding. Eben­so das Spiel mit Spra­che, das Unter­su­chen, mit wel­chen Mög­lich­kei­ten kön­nen wir Text, kön­nen wir Lite­ra­tur anders gestal­ten? Das hat im anglo­ame­ri­ka­ni­schen Bereich eine ande­re Heimat.

NG

In der Ein­lei­tung zum Hand­buch KI und die Küns­te schrei­ben Sie: „Kunst, gemein­hin als pri­vi­le­gier­ter Aus­druck mensch­li­cher Krea­ti­vi­tät und Ori­gi­na­li­tät ver­stan­den, fun­giert als Distink­ti­ons­merk­mal des Men­schen, das ihn vom Tier und von der Maschi­ne glei­cher­ma­ßen unter­schei­det.“ Damit fas­sen Sie die gegen­wär­ti­ge wis­sen­schaft­li­che sowie öffent­li­che Debat­te exem­pla­risch zusam­men. Wie ste­hen Sie selbst dazu? Soll­te zukünf­tig zwi­schen mensch­li­cher und künst­li­cher Krea­ti­vi­tät unter­schie­den wer­den? Oder wird es, wie ChatGPT vor­schlägt, zu einer krea­ti­ven Partner*innenschaft zwi­schen mensch­li­chen Künstler*innen und künst­li­cher Intel­li­genz kommen? 

SC

Die­ser Satz spielt auf die öffent­li­chen und media­len Debat­ten an, die ich gewis­ser­ma­ßen ver­su­che, in mei­nem Buch und mit mei­nem Hand­buch ein wenig auf den Boden der Tat­sa­chen zurück­zu­ho­len. Nein, ich glau­be nicht, dass Kunst das Distink­ti­ons­merk­mal ist. Ich wür­de die Gren­ze zwi­schen Mensch und Maschi­ne nicht dort zie­hen, wo mit Sprach­mo­del­len Kunst ent­steht. Das ist für mich immer noch ein Mensch, der mit neu­en Tech­no­lo­gien Kunst ent­ste­hen lässt. Auf den Krea­ti­vi­täts­be­griff kön­nen wir hier nicht ein­ge­hen. Das ist so ein gro­ßer Begriff – ähn­lich wie Lie­be, Glück und ande­re Begrif­fe –, ein Stell­ver­tre­ter­be­griff, der von ver­schie­de­nen Sei­ten ganz unter­schied­lich auf­ge­la­den ist. Von Sei­ten der Lite­ra­tur­wis­sen­schaft oder den Geis­tes­wis­sen­schaf­ten wird er sehr emo­tio­nal und auch sehr dif­fus besetzt, aber auch immer im Sin­ne einer ver­bor­ge­nen, nicht ganz erklär­ba­ren Eigen­schaft, die eben nicht nur – das hat Andre­as Reck­witz, der über Krea­ti­vi­tät viel geschrie­ben hat, mal gesagt – im Her­vor­brin­gen von etwas Neu­em besteht, son­dern auch immer emo­tio­nal auf­ge­la­den ist. Mir ist nicht wohl dabei, auf­grund eines Sprach­mo­dells zwi­schen künst­li­cher und mensch­li­cher Krea­ti­vi­tät zu unter­schei­den. Krea­tiv, künst­le­risch wert­voll oder über­haupt lite­ra­risch wird für mich ein von einem Sprach­mo­dell gene­rier­ter Text meis­tens dadurch, weil er in ein Kon­zept ein­ge­bun­den ist, das von einem Men­schen erdacht wur­de. Auch wenn das Kon­zept nur ein guter Prompt ist, ist es den­noch eine ziem­lich star­ke Text­ein­ga­be. Natür­lich bin ich mir sehr sicher – das zeigt die Ent­wick­lung –, dass es irgend­wann Tex­te geben wird, die aus dem Sprach­mo­dell kom­men, die lite­ra­risch anmu­ten, die man auch nicht sofort einem Spra­chen­mo­dell zuord­nen wür­de. Aber das Sprach­mo­dell ist für mich nicht die Ver­kör­pe­rung eines Nicht-Men­schen. Es ist das Pro­dukt einer mensch­lich vor­an­ge­trie­be­nen Tech­no­lo­gie, die sich aller­dings nicht ver­selb­stän­digt. Zumin­dest im Moment sehe ich das nicht. Daher will ich hier die­se Tren­nung von vorn­her­ein ver­su­chen aufzuweichen.

NG

Und der Vor­schlag von ChatGPT bezüg­lich einer krea­ti­ven Partner*innenschaft?

SC

Han­nes Bajohr hat vor ein paar Mona­ten sei­nen Roman Ber­lin, Miami ver­öf­fent­licht, und dabei mit einem frei­en, Open-Source GPT-Modell gear­bei­tet. Dort gibt es ein wun­der­ba­res Nach­wort, in dem er auch kurz die Poe­to­lo­gie die­ser Art von Schrei­ben for­mu­liert. Er weist zurecht dar­auf hin, dass Autor*innenschaft nie eine ein­sa­me Arbeit war, schon gar nicht in der Gegen­wart. Wenn man streng ist, haben eini­ge einen Anteil an der Zusam­men­ar­beit mit einem Sprach­mo­dell: die Leu­te, die die­ses Sprach­mo­dell trai­niert haben, alle Autorin­nen und Autoren der Tex­te, mit denen das Modell vor­trai­niert oder nach­trai­niert wur­de. Bei Han­nes Bajohr waren es Gegen­warts­ro­ma­ne, deren Autor*innen müss­te man auch noch unmit­tel­bar hin­zu­fü­gen. Die Clickworker*innen, die eben­falls Ent­schei­dun­gen fäl­len und für den Out­put ver­ant­wort­lich sind, wür­den zu die­ser Partner*innenschafft dazu­ge­hö­ren. Lektor*innen, bes­te Freund*innen, die viel­leicht beim Abend­essen mein­ten „Ver­such es doch mal mit die­sem Prompt“, oder Kolleg*innen, mit denen man gemein­sam in Sti­pen­di­en, Künstler*innenhäusern usw. dar­an gear­bei­tet hat, zäh­len genau­so dazu. Das heißt, die Vor­stel­lung des ein­sa­men Schreib­ge­nies ist ohne­hin eine über­hol­te. Gera­de im Moment gibt es zahl­rei­che Pro­jek­te zu Ver­ge­mein­schaf­tung von Schrei­ben. Die Schreib­sze­ne, auch der Begriff der Schreib­sze­ne, hat sich so ver­än­dert, dass man jetzt von Koope­ra­tio­nen, von Kol­la­bo­ra­tio­nen zwi­schen Autorin­nen und Autoren aus­geht. Zwi­schen Men­schen und KI ist es im Grun­de eine erwei­ter­te Form der Kol­la­bo­ra­ti­on ver­schie­de­ner Akteu­re und Akteu­rin­nen, die letzt­end­lich aber immer auch auf Men­schen zurück­geht. Es ist aller­dings schwie­rig, die­se zu zäh­len, weil es bei Sprach­mo­del­len zu vie­le sind. Das Sprach­mo­dell funk­tio­niert wie ein Brenn­glas. Die Schreib­sze­ne, das Schrei­ben der Gegen­wart, hat sich ver­än­dert und die Zusam­men­ar­beit mit die­sen Sprach­mo­del­len zeigt das noch­mal ganz deutlich.

ChatGPT weist an meh­re­ren Stel­len dar­auf hin, dass ethi­sche Prin­zi­pi­en beim Ein­satz von KI in den Küns­ten ein­ge­hal­ten wer­den müs­sen. Künstler*innen, Forscher*innen sowie die Gesell­schaft tra­gen laut ChatGPT hier­für gemein­sam die Ver­ant­wor­tung. Der Gesell­schaft wird gar eine „Schlüs­sel­rol­le“ zuge­spro­chen. Wür­den Sie dem zustimmen? 

SC

Das ist über­aus schwie­rig. Es müs­sen Regeln her, das ist für mich unbe­strit­ten. Viel­leicht haben wir in Zukunft so etwas wie VG Wort-Abga­ben. In dem Moment, in dem man sei­nen Text ins Digi­ta­le gibt, bekommt man eine Art Grund­satz­ab­ga­be. Aller­dings funk­tio­niert das schon in der Musik, bei­spiels­wei­se bei Spo­ti­fy, nur erbärm­lich. Das wür­de beim Schrei­ben ver­mut­lich nicht bes­ser sein.  Es ist idea­lis­ti­sche Träu­me­rei, dass wir weg von die­sen gro­ßen, pro­prie­tä­ren, geschlos­se­nen Model­len kom­men, die den Markt bestim­men. Jeder Vor­trag, den ich hal­te, zu Künst­li­cher Intel­li­genz, endet immer mit Gesprä­chen über ChatGPT, weil es natür­lich auch so wir­kungs­mäch­tig ist. Es gibt vie­le ande­re Model­le, mit denen man auch arbei­ten, mit denen man auch nach­be­ar­bei­ten kann. Aber das macht nie­mand. Die Schü­le­rin­nen und Schü­ler grei­fen zu ChatGPT, tes­ten, was das Modell kann, und trai­nie­ren es damit wei­ter, sodass noch mehr Daten zur Ver­fü­gung ste­hen. Das ist das größ­te Pro­blem, dass wir so eine star­ke Mono­pol­bil­dung im Bereich der gro­ßen Tech-Fir­men haben. Wir brau­chen unbe­dingt Richt­li­ni­en. Wir brau­chen Trans­pa­renz. Wir brau­chen eigent­lich eine Auf­for­de­rung, die Daten trans­pa­ren­ter zu machen.

NG

Jack Anton­off, der aktu­ell als erfolg­reichs­ter Musik­pro­du­zent gilt, hat auf die Fra­ge, ob er dem Ein­zug der KI in die Musik ängst­lich gegen­über­steht, geant­wor­tet, er sei nicht wirk­lich besorgt. Viel­mehr mache er sich Gedan­ken über die Tech-Leu­te. „Es ist absurd, dass die Techi­es heu­te die Archi­tek­ten von allem sind. […] [W]ir ver­lan­gen von den Tech-Leu­ten, dass sie die Zukunft der Kunst, des Ver­kehrs und der Stadt­pla­nung ent­wer­fen. Die­se Leu­te tun mir mit­un­ter leid, weil ihre eige­ne Büch­se der Pan­do­ra sie dazu gezwun­gen hat, buch­stäb­lich alles zu ent­wer­fen.“ (ZEIT MAGAZIN, N°7, 8.2.24) Kann die Ent­wick­lung der Künst­li­chen Intel­li­genz – in all ihren For­men – mit der Büch­se der Pan­do­ra ver­gli­chen wer­den, wel­che bekannt­lich für Unheil und Scha­den steht?

SC

Ich fin­de das Zitat ganz inter­es­sant, dass die Techi­es heu­te die Architekt*innen von allem sind. Tat­säch­lich ist es schon ver­rückt, — das ist das Pro­blem. Es täte uns allen gut, wach­sam zu blei­ben. Der Künst­li­chen Intel­li­genz und dem Code kommt an so vie­len Stel­len eine Gate­kee­per-Funk­ti­on zu, aber die Men­schen, die an die­sen Stel­len sit­zen, sind sich auf­grund ihrer Job­be­schrei­bung gar nicht bewusst, dass sie an Gate­kee­per-Funk­tio­nen sit­zen, son­dern wol­len ein­fach ihren Job machen, die­sen Code zum Lau­fen brin­gen oder bestimm­te Daten gene­rie­ren. Das ist natür­lich eine Scheu­klap­pen-Tätig­keit und der Blick aufs gro­ße Gan­ze kommt dann viel­leicht zu spät. Ich wür­de die Aus­sa­ge Anton­offs umdre­hen und mir nicht so vie­le Gedan­ken über die Tech-Leu­te machen, son­dern statt­des­sen mit Vehe­menz dafür ein­tre­ten, dass alle, vor allen Din­gen Literaturwissenschaftler*innen und Geisteswissenschaftler*innen, mit einer gehö­ri­gen Por­ti­on IT-Wis­sen und Pro­gram­mier­wis­sen aus­ge­stat­tet wer­den. Ich ver­ste­he zum Bei­spiel nicht, war­um nicht bereits in der Schu­le, statt Infor­ma­tik im Sin­ne von „Wir pro­gram­mie­ren“, über Daten­ethik gespro­chen wird. War­um haben wir im lite­ra­tur­wis­sen­schaft­li­chen Stu­di­um immer noch Angst, dass die Leu­te ihre Haus­ar­bei­ten mit ChatGPT anfer­ti­gen, statt früh mit Stu­die­ren­den über die Kul­tur­tech­ni­ken von Schrei­ben und Lesen im Zei­chen von Künst­li­cher Intel­li­genz zu spre­chen. Ich glau­be, die­se Sen­si­bi­li­sie­rung und die Wach­sam­keit und das Auf­for­dern, über die eige­ne Gren­ze hin zu den Tech-Nerds hin­weg­zu­kom­men, ist ganz wich­tig. Inso­fern freue ich mich über jede Per­son, die hier in Würz­burg Digi­tal Huma­ni­ties, oder Infor­ma­tik und Lite­ra­tur­wis­sen­schaf­ten stu­diert, weil ich glau­be, dass das eine gute Mischung ist und bei­den Sei­ten extrem gut­tut. Es ist eben kei­ne Hilfs­wis­sen­schaft, son­dern es sind wirk­li­che Schlüs­sel­po­si­tio­nen, auf denen Men­schen sit­zen, denen durch ihre bestimm­ten Fähig­kei­ten und Kom­pe­ten­zen, eine Ent­schei­dungs­macht zukommt. Es ist natür­lich bit­ter, wenn man die­se Ent­schei­dungs­macht immer nur kom­men­tiert oder im Zwei­fel auch gar nicht wahr­nimmt. Dazu gehört, dass man die­se Gren­ze zwi­schen den Natur- und Geis­tes­wis­sen­schaf­ten ein biss­chen auf­weicht. Daher tun mir die Techs über­haupt nicht leid – im Gegen­teil –, ich benei­de sie um ihre Fähig­kei­ten. Mir tut aller­dings leid, dass so vie­le, immer nur das Front­end sehen, also nur die Spiel­wie­se, und das wird sich in den nächs­ten Jah­ren ver­schlim­mern. Wir wer­den in kür­zes­ter Zeit wahr­schein­lich in Word nur noch einen Knopf haben, auf dem steht „Mach den Text schö­ner“, ein Knopf, der mit einem Sprach­mo­dell ver­knüpft ist. Lizen­siert hat Micro­soft schon gewis­se Model­le. Das wird nicht mehr lan­ge dau­ern. Alles wird immer spie­le­ri­scher im Com­pu­ter­be­reich, sodass nie­mand mehr hin­ter die Ober­flä­che auf den Code bli­cken muss. Ich wür­de mir wün­schen, dass in die­ser Hin­sicht mehr Ver­pflich­tung bestün­de. Das wür­de mei­nes Erach­tens bereits helfen.

NG

ChatGPT argu­men­tiert, dass der Ein­satz von künst­li­cher Intel­li­genz sich posi­tiv auf die Gesell­schaft aus­wir­ken könn­te. Mar­gi­na­li­sier­te Grup­pen, die bis­her benach­tei­ligt oder über­se­hen wur­den, könn­ten eine Platt­form erhal­ten und auf die­se Wei­se stär­ker im Kunst­be­reich prä­sent sein. Gleich­zei­tig könn­te die Gesell­schaft für ste­reo­ty­pe Geschlech­ter-Dar­stel­lun­gen sen­si­bi­li­siert wer­den. Hier­für braucht es u.a. Diver­si­tät in den Daten­sät­zen sowie unter den Tech-Leu­ten und Forscher*innen, wel­che an den KI-Sys­te­men arbei­ten. Feh­le an die­sen Stel­len Diver­si­tät, könn­te durch die KI eine unge­rech­te Geschlecht­er­ord­nung sowie ste­reo­ty­pe Dar­stel­lun­gen noch ver­stärkt wer­den. Wie ste­hen aktu­ell die Chan­cen, dass es durch KI zu einer geschlech­ter­ge­rech­te­ren Gesell­schaft kommt?

SC

Das fin­de ich schwie­rig. Im Moment neh­me ich wahr, dass die Sprach­mo­del­le bei allen Ver­su­chen sie „rein“ zu hal­ten, am Ende doch die Vor­ur­tei­le und Ste­reo­ty­pen trans­por­tie­ren, die unse­re Gesell­schaft aus­ma­chen. Der Kanon und der Bias, die in unse­rer Gesell­schaft auch nicht weg­ge­re­det oder durch Debat­ten­kul­tur ver­schlei­ert wer­den kön­nen, sind ein­fach da. Alle Zah­len zei­gen das – Zah­len von Lehr­stuhl­in­ha­be­rin­nen, von Habi­li­tan­tin­nen, von gro­ßen Tech-Unter­neh­men. Wich­ti­ge Schlüs­sel­po­si­tio­nen sind männ­lich besetzt, eben­so der Kanon unse­rer Kul­tur, auf den wir uns beru­fen, sowie der Kanon, der in der Leh­re abge­prüft wird. Natür­lich repro­du­zie­ren das auch Sprach­mo­del­le. Das ist ein Pro­blem, aber noch pro­ble­ma­ti­scher ist, wenn wir das weder bemer­ken noch sehen. Das soll­te eigent­lich eine Auf­for­de­rung an uns sein, die­sen Kanon auch intern zu ändern. Es gibt gute Grün­de, dar­an zu zwei­feln, dass durch die­se Pro­gram­me eine Geschlech­ter­ge­rech­tig­keit ent­steht. Die krea­tivs­te und kri­tischs­te Zusam­men­ar­beit mit KI-Model­len im Bereich der Kunst kommt sicher­lich von mar­gi­na­li­sier­ten Grup­pen. Es gibt tol­le Autor*innen, die bewusst mit Algo­rith­men, mit Codes, mit Model­len, zusam­men­ar­bei­ten, um in ihren Instal­la­tio­nen zu zei­gen, wie die­se Algo­rith­men funk­tio­nie­ren, wie vor­ur­teils­be­haf­tet sie sind und gleich­zei­tig aber den Code auch benut­zen.  Ich habe das Gefühl, dass KI-Kunst, um jetzt mal den Begriff zu ver­wen­den, oft auch gera­de in dem Bereich, wo es um Mar­gi­na­li­sie­rung und Bias geht, zu einem sehr kri­ti­schen Instru­ment wird. Das betrifft vor allen Din­gen vie­le Schwar­zeAuto*rinnen und Künstler*innen in den USA, wo der Bias noch viel stär­ker ist, weil er gesell­schaft­lich tat­säch­lich jeden Tag abge­fragt wird. Es gibt eine gan­ze Rei­he an Künstler*innen, die das adres­sie­ren und sich zu eigen machen, übri­gens auch Künst­le­rin­nen, die sich über eine Geschlech­ter­bi­na­ri­tät hin­weg­set­zen. Die Künst­le­rin Alli­son Par­rish zum Bei­spiel sagt, dass die Spra­che des Codes und die gene­rier­te Spra­che, die nicht mehr nach her­kömm­li­chen Regeln funk­tio­niert und die bewuss­te Sinn­ent­stel­lung sowie Inko­hä­ren­zen ent­hält, für sie als tran­si­den­te Künst­le­rin auch ein Aus­druck dafür ist, dass sie in der nor­ma­ti­ven Sprach­um­ge­bung nicht zu Hau­se ist, dass Spra­che nicht für jede*n eine Hei­mat dar­stellt. Das ist das Span­nen­de, dass die­sen gene­ra­ti­ven Expe­ri­men­ten von Beginn an die­ses kri­ti­sche Moment zu eigen sein kann.

NG

Wel­che Fol­gen haben die rasan­ten Ent­wick­lun­gen und der ste­ti­ge Fort­schritt der künst­li­chen Intel­li­genz für die Umwelt? Ist die stei­gen­de Ver­wen­dung von KI-Sys­te­men noch trag­bar in Zei­ten der Klimakrise?

SC

Der CO₂ Aus­stoß ist mas­siv bei die­sen Model­len, das muss man ganz klar sagen. Die Sache ist eigent­lich nicht trag­bar. Es ist genau­so wenig trag­bar wie die Tat­sa­che, dass die meis­ten Men­schen ein zwei­tes Auto besit­zen. Es ist auch nicht trag­bar, dass Leu­te zu viert in einem Haus von 250 m² leben, das ist alles nicht trag­bar. Es gehört zu all die­sen nicht trag­ba­ren Din­gen, an denen wir nichts ver­än­dern, weil sie das Leben so viel schnel­ler, beque­mer und auch leis­tungs­ori­en­tier­ter machen. Also theo­re­tisch gese­hen ist es nicht unbe­dingt för­der­lich. Doch, das wäre mei­ne Pro­gno­se, wird auf gar kei­nen Fall in irgend­ei­ner Form etwas an die­sem Sys­tem geän­dert, weil es bedroh­lich für das Kli­ma ist.

NG

Könn­te man es zumin­dest ein biss­chen ver­bes­sern, indem man auf klei­ne­re Pro­gram­me umsteigt.

SC

Wenn man selbst arbei­tet, kann man natür­lich klei­ne­re Pro­gram­me neh­men. Die meis­ten Informatiker*innen machen das auch, aber die sind eben dazu fähig. Auf Sei­ten wie Hug­ging Face oder Git­Hub kann jede*r eigent­lich recht schnell auf Model­le zugrei­fen, die klei­ner und spe­zi­fi­scher sind, aller­dings gibt es dort kei­ne schö­ne Ein­ga­be­mas­ke, in die ich einen lus­ti­gen Prompt schi­cke und in der Zeit, in der ich das mache, wird auch noch ein lus­ti­ges Bild­chen gene­riert. Wie alle ande­ren Din­ge, die mit Nach­hal­tig­keit zu tun haben, gehen die­se mit einer wei­te­ren leich­ten Unbe­quem­lich­keit ein­her. Das wäre das, was jede*r von uns selbst machen könn­te. Und dann sind wir natür­lich wie­der im Bereich der gro­ßen Tech-Fir­men. Dort ist der Leis­tungs­druck sowie der Wett­be­werb gigan­tisch. Das alles stimmt mich nicht gera­de posi­tiv, dass so etwas wie die voll­kom­men berech­tig­te und eigent­lich mit einem gro­ßen roten Prio­ri­tä­ten­schild über­schrie­be­ne Kli­ma­kri­se in dem Bereich zu irgend­ei­ner ande­ren Ent­schei­dung füh­ren wird.

NG

Sehen Sie per­sön­lich durch die KI mehr Chan­cen oder Risi­ken für die künst­le­ri­schen Bereiche? 

SC

Chan­cen sind auf jeden Fall da. Man muss nur offen­blei­ben und sich die Kunst auch ein­fach mal anschau­en. Ich glau­be, es gibt gro­ße Chan­cen, weil es ja auch eine Spiel­wie­se ist, um mit Spra­che zu expe­ri­men­tie­ren. Gera­de das sieht man bei Han­nes Bajohr. Wenn man nicht auf die gro­ßen Model­le zurück­greift, ist der Text deut­lich weni­ger kohä­rent und deut­lich weni­ger glatt. Die Tex­te, die ChatGPT aus­spuckt, sind extrem glatt. Das ist das Schö­ne, dass Kunst eigent­lich etwas nicht Vor­her­seh­ba­res, jen­seits aller Wis­sen­schaft­lich­keit ist. Daher leuch­tet es durch­aus ein, dass nicht die bes­ten Tex­te dar­aus gene­riert wer­den. Es sind avant­gar­dis­ti­sche Expe­ri­men­te, die weit­ge­hend unbe­ob­ach­tet blei­ben, aber zei­gen, wel­ches Poten­zi­al auch in sol­chen Arbei­ten mit Sprach­mo­del­len steckt. Ich wür­de sagen, als Tool ste­cken da unglaub­li­che Chan­ce drin, wenn man damit ver­ant­wor­tungs­voll umgeht. Es ste­cken aber auch wahn­sin­nig vie­le Risi­ken dar­in und die betref­fen Autor*innen, die nicht bezahlt wer­den, Übersetzer*innen, tech­ni­sche Übersetzer*innen, die wahr­schein­lich mit­tel­fris­tig ihre Jobs ver­lie­ren, Stichwortgeber*innen, Journalist*innen. Die ein­zi­ge Pro­gno­se, die ich mir erlau­be, ist wirk­lich etwas pes­si­mis­tisch. Das Pro­blem, das wir haben, ist, dass jedes Modell, das kommt und es wer­den wei­te­re kom­men, immer grö­ßer wird. Es wird immer ein grö­ße­res geben. Ich glau­be nicht, dass der Moment kom­men wird, wo irgend­je­mand sagt, „so jetzt machen wir mal stopp“. Es wird grö­ßer wer­den und damit der Out­put immer unspe­zi­fi­scher. Nun ist es aber so, dass die gene­rier­ten Tex­te wie­der ein­ge­speist wer­den in die gro­ße Daten­men­ge, die wie­der­um Model­le trai­niert. Das heißt, wenn wir das ska­lie­ren und als gro­ße Wel­len­be­we­gung den­ken, kann man sagen, dass die Tex­te, die wie­der Ein­gang fin­den, in das Trai­nings­ma­te­ri­al: a) post-arti­fi­zi­ell sind, also nicht immer men­schen­ge­macht, son­dern gene­riert und b) auch nicht unbe­dingt bes­ser wer­den. Das Risi­ko müs­sen wir natür­lich sehen. Aktu­ell unter­schei­den wir immer zwi­schen dem Out­put des Sprach­mo­dells und dem mensch­lich gene­rier­ten Input. Aber die­se Unter­schei­dung wird so nicht halt­bar sein bei den Tex­ten, die mitt­ler­wei­le in die­se Model­le und die­se Trai­nings­da­ten rein und raus gehen. Wenn ich dar­aus eine Pro­gno­se zie­hen wür­de und mir die­se Bewe­gung vor Augen füh­re, wür­de ich sagen, dass sich die Ästhe­tik der Tex­te nicht unbe­dingt ver­bes­sern, son­dern eher ver­schlech­tern wird.

Hand­buch Künst­li­che Intel­li­genz und die Küns­te, hrsg. von Prof. Dr. Ste­pha­nie Cata­ni, De Gruy­ter 2023, 475 Seiten.