Wem gehört die Superintelligenz? - Zuckerbergs positive KI-Zukunft

00:00:00: Was passiert eigentlich, wenn der CEO des Unternehmens das für die so ziemlich größten Social Media Krisen unserer Zeit verantwortlich gemacht wird?

00:00:10: Wenn genau dieser Mann plötzlich fordert uns allen die mächtigste Technologie der Menschheitsgeschichte unkontrolliert in die Tasche zu stecken.

00:00:19: Das ist ein Szenario dass bei vielen instinktiv alle also wirklich alle Alarmglocken schrellen lässt.

00:00:26: ja wir reden hier nämlich Nicht über ein neues Smartphone oder einfach einen Software-Update.

00:00:30: Richtig!

00:00:31: Wir blicken hier auf eine Landschaft, die zutiefst politisch ist.

00:00:34: Ja.

00:00:35: Unfilosophisch und extrem risant.

00:00:39: Okay,

00:00:39: let's unpack this... Unsere heutige Mission, die übrigens wieder von Dr.

00:00:43: Peter Schopf kuratiert wurde führt uns genau in den Kern dieses Konflikts.

00:00:47: Genau.

00:00:48: Wir nehmen heute ne sehr spezifische ich würde sagen fundamentale Frage unter die Lupe nämlich wem soll Superintelligenz eigentlich gehören?

00:00:57: Das ist die große Frage.

00:00:58: Ja!

00:00:59: Und unsere Fällen dafür sind zum einen ein wirklich gewaltiger, six-tausend fünfhundert Worte umfassender Essay von Mark Zuckerberg?

00:01:08: Wahnsinnig lang!

00:01:09: Total!

00:01:10: Titel is The Future Is For Everyone.

00:01:13: und zum anderen haben wir die detaillierten Analysen dazu aus dem AI Daily Brief.

00:01:19: Den wir analysieren hier heute keinen gewöhnlichen Produktrelease sondern eigentlich ein gesellschaftliches Manifest.

00:01:25: Ja, das kann man so nennen!

00:01:27: Warum tritt der CEO von Meta plötzlich als politischer Vordenker auf und was bedeutet seine Vision ganz konkret für die Architektur unserer zukünftigen Gesellschaft?

00:01:37: Also um diese Frage beantworten zu können auch nur uns da völlig im PR-Sprech zu verlieren...

00:01:43: Wir

00:01:43: müssen Zuckerbergs Argumentationslinie auf ihre Fundamente herunterbrechen.

00:01:48: Der Essay baut im Grunde auf drei Kernprinzipien auf.

00:01:53: Okay, was ist das erste?

00:01:54: Seine absolute Grundthese ist das Prinzip der individuellen Ermächtigung.

00:01:59: Er vertritt den Standpunkt des Superintelligenz unter keinen Umständen bei wenigen – ich sag mal – elitären Institutionen zentralisiert sein darf.

00:02:07: Also keine Monopole für Regierungen oder Riesenteckkonzerne.

00:02:11: Exakt!

00:02:12: Die Rechenleistung und die Modelle müssen dezentralisiert sein.

00:02:15: Open Source Und

00:02:16: buchstäblich in die Hände jedes Einzelnen gelegt werden?

00:02:19: Okay,

00:02:20: er zieht da auch sehr interessante historische Parallelen im Essay.

00:02:23: Welche denn?

00:02:24: Er sagt...die wirklich großen technologischen Sprünge kamen selten aus den Fluren etablierter zentraler Institutionen.

00:02:32: Ah okay Sei es jetzt der Motorflug durch die Gebrüder Wright in ihrem kleinen Fahrrad laden oder das Verständnis der Elektrizität durch ein Buchbinder leerleg wie Michael Faraday.

00:02:43: Das waren alles Individuen, die unerwarteten Zugang zu neuen Werkzeugen hatten?

00:02:49: Das ist natürlich eine extrem riskante Prämisse, oder?

00:02:52: Wie meinst du das?

00:02:53: Naja er verlässt sich darauf dass der freie Markt der Ideen und diese völlig unkontrollierte Kreativität der Massen am Ende immer also unterm Strich etwas Positives hervorbringen.

00:03:04: Ja das stimmt

00:03:05: Aber diese Idee des Universeln Zugangs stößt doch sofort auf eine harte Realität, sobald Menschen an ihren Lebensunterhalt denken.

00:03:13: Oh ja!

00:03:13: Das Jobthema

00:03:14: Genau Wenn buchstäblich jeder diese unfassbare Macht in den Händen hält.

00:03:19: wird menschliche Arbeitskraft dann nicht komplett obsolet?

00:03:23: Genau da haken die Kritiker natürlich ein Die allgegenwärtige Angst vor dem massenhaften Jobverlust durch Superintelligenz.

00:03:30: Ja

00:03:31: Aber Zuckerberg nähert sich diesem emotionalen Thema interessanterweise als ein rein mathematisches Problem.

00:03:38: Ein mathematisches problem?

00:03:40: Wie das?

00:03:40: Er basiert es auf der Knappheit von Ressourcen, er sagt Es gibt keine ökonomische Regel die besagt dass die Automatisierung von bestehenden Jobs zwingend schneller ablaufen muss Als das Wachstum unserer individuellen Fähigkeiten.

00:03:55: Okay Das musst du mir genauer erklären

00:03:57: gerne.

00:03:57: Warum sollte denn ausgerechnet Compute, also Rechenleistung eine natürliche Bremse für Jobverluste sein?

00:04:03: Weil das Training und der Betrieb von echten Superintelligenzmodellen unfassbar teuer und ressourcenintensiv ist.

00:04:11: Zuckerberg argumentiert da so – warum sollte ein Unternehmen massiv knappe teure Rechenleistungen verschwenden um mühsam den Job eines durchschnittlichen Sachbearbeiters oder Kassieras zu automatisieren?

00:04:25: Weil es billiger ist!

00:04:26: Eben nicht, es spart nur marginale Kosten ein im Vergleich zu den unfassbaren Kosten für diese immense Rechenleistung.

00:04:33: Ach so ich verstehe!

00:04:34: Es macht ökonomisch viel mehr Sinn dieselbe Rechenleistungen einzusetzen um etwas völlig neues Hochwertiges zu erfinden.

00:04:41: Okay also neue Medikamente oder neue Materialien?

00:04:45: Genau,

00:04:46: völlig neue Dienstleistungen.

00:04:48: die Automatisierung bestehender Rollen wird durch die Trägheit von Unternehmen und die extrem hohen Kosten der Systemintegration gebremst Mhm.

00:04:56: Die individuelle Befähigung hingegen, also wenn jeder Nutzer plötzlich die Werkzeuge eines ganzen Entwicklerstudios auf seinem Laptop hat?

00:05:04: Die wird ungleich schneller skalieren!

00:05:09: Naja... das klingt für mich schon wieder nach der klassischen Silicon Valley Utopia.

00:05:14: Ja, ein bisschen

00:05:16: Ist es nicht exakt so als würde man sagen, äh ...die Erfindung des Traktors macht alle Bauern über Nacht zu Agrarmanagern.

00:05:22: ja der Vergleich passt ganz gut.

00:05:24: Ich meine, unterschätzen wir hier nicht massiv die Trägheit des Arbeitsmarktes.

00:05:28: Es ist ja nicht so dass jemand dessen Job in der Buchhaltung heute wegfällt, dass er am nächsten Tag durch KI magisch ein Personal Biologist oder ein World Builder wird.

00:05:40: Das sind genau die Berufe, die er nennt?

00:05:42: Ja

00:05:42: das mein ich!

00:05:43: Das sind Berufer, die Zuckerberg in seinem Essay allen Ernstes für die nahe Zukunft prophezeit.

00:05:49: Richtig

00:05:49: Der Übergang für das Individuum ist doch brutal Auch wenn die Makroökonomie am Ende vielleicht wächst.

00:05:55: Das ist ein sehr berechtigter Einwand und die Analysen im AI Daily Brief weisen auch genau auf diese blinden Flecken hin.

00:06:05: Zuckerburg geht davon aus, dass wir eine regelrechte Explosion an Kleinstunternehmen sehen werden.

00:06:11: Also viele Solo-Selbstständige!

00:06:12: Ja,

00:06:13: teilweise ein Personenproduktstudios die durch KI-Agenten den Output eines heutigen Großkonzerns generieren können.

00:06:20: Er sieht den kleinen Betrieb sozusagen als das zukünftige Rückgrat der Wirtschaft.

00:06:25: Wow!

00:06:26: Aber wie du richtig sagst er ignoriert dabei weitgehend die schmerzhafte Umschulungsphase einer ganzen Generation von Arbeitnehmern?

00:06:33: Absolut aber... Diese massive Befähigung des Einzelnen bringt uns ja zu einem noch viel drängenden Problem.

00:06:41: Welches?

00:06:41: Naja, wenn ich jede Menschen die Werkzeuge eines Großkonzerns in die Hand gebe... Ja!

00:06:47: ...gebe ich jetzt wangsläufig auch bösartigen Akteuren unfassbare Macht.

00:06:51: Das Sicherheitsproblem

00:06:52: Richtig Wie verhindert diese Visionen bitte, dass ein einzelner Hacker mit einer Open-Source Superintelligenz die globale Finanzinfrastruktur lahmlegt?

00:07:01: Was hier wirklich faszinieren ist Zuckerberg Ram das Sicherheitsproblem komplett neu.

00:07:05: Die konventionelle Sichtweise in der KI-Debatte lautet ja eigentlich immer... Diese Technologie ist so gefährlich.

00:07:13: wir müssen sie einschränken!

00:07:16: Streng regulieren und ihre Gewichte und Codes wegspässen.

00:07:20: Zuckerberg hingegen sagt, Sicherheit entsteht nicht durch Einschränkung.

00:07:25: Sie entsteht durch radikale symmetrische Verteilung.

00:07:29: Symmetrisches Verteilen?

00:07:30: Ja

00:07:30: es ist im Grunde das Prinzip der gegenseitigen Abschreckungen nur übertragen auf Software.

00:07:36: Meinst du das Gedankenexperiment aus der Quelle, bei dem er das Justizsystem als Metapher heranzieht?

00:07:42: Exakt das.

00:07:43: Wo er argumentiert dass ein einzelner KI Anwalt eine dystopische Waffe wäre aber acht Milliarden KI Anwelte ein faires Justiz System bedeuten?

00:07:53: Ja genau stell dir das mal vor.

00:07:55: nur ein einziger Tech-Konzern oder eine Regierung hätte Zugriff auf einen superintelligenten juristischen Agenten.

00:08:01: Katastrophe.

00:08:02: Diese Entität hätte vor jedem Gericht der Welt einen unfairen Vorteil.

00:08:06: Sie könnte jedes Gesetz in Sekundenbruchteilen nach Schlupflöchern durchsuchen

00:08:11: Und jede menschliche Gegenwehr im Keim ersticken.

00:08:14: Richtig, das wäre eine furchtbare asymetrische Gesellschaft.

00:08:17: Aber was passiert wenn wirklich jeder Bürger jedes kleine Unternehmen genau denselben superintelligenten Anwalt hat?

00:08:25: Dann neutralisiert sich der Vorteil

00:08:27: Exakt.

00:08:28: Die Akteure kontrollieren und balancieren sich gegenseitig aus.

00:08:31: Das System wird als ganzes Widerstandsfähiger.

00:08:35: Das ist verrückt, aber irgendwie logisch!

00:08:37: Er überträgt das auch konkret auf die Cybersicherheit im Essay oder?

00:08:41: Ja, ganz genau!

00:08:42: Er sagt, wenn nur ein staatlicher Akteur eine KI-Häckermaschine hat sind wir alle geliefert weil er Zero Day Exploits massenhaft ausnutzen kann.

00:08:51: Wenn aber jeder diese KI hat dann härtet die Defensive KI jedes System in Echtzeit ab.

00:08:57: Ja, sie repariert Sicherheitslücken quasi bevor sie überhaupt ausgenutzt werden und neutralisiert den Angriff.

00:09:04: Das ist im Gründe die Übertragung der Gewaltenteilungen und dieser militärischen Abschreckungslogik auf Code.

00:09:10: Ganz genau!

00:09:11: Aber diese Esser existiert ja nun nicht in einem Vakuum.

00:09:14: Wenn er so vehement gegen Einschränkungen argumentiert wen genau greift er damit eigentlich an?

00:09:20: Oh, er positioniert sich da ganz gezielt und zwar als der absolute Gegenpol zu der Fraktion in der Branche, die existenzielle Risiken in den Vordergrund stellt.

00:09:31: Okay,

00:09:31: wen haben wir da?

00:09:32: Wir sprechen hier über die exakte Gegenposition zu Dario Amodé dem CEO von UnTropic und in Weitenteilen auch zur OpenAI.

00:09:43: Amodee hatte kurz zuvor einen eigenen gigantischen Essay veröffentlicht, der sich intensiv mit Katastrophenszenarien befasst.

00:09:52: Bei Anthropic fürchtet man spezifische existenzielle Risiken – also was passiert wenn eine KI so schlau wird dass sie sich selbst rekursiv immer weiter verbessert?

00:10:06: Oder was, wenn sie es jedem Lein ermöglicht zu Hause maßgeschneiderte Bio-Waffen zu synthetisieren?

00:10:13: Naja keine unberechtigte Sorge.

00:10:15: Absolut

00:10:15: nicht!

00:10:16: Und diese Unternehmen argumentieren deshalb das KI potenziell so vernichtend ist dass eine extrem kleine stark regulierte Gruppe von Experten sie kontrollieren muss.

00:10:27: Sie wollen die Fähigkeiten also zentral drosseln

00:10:29: Genau das.

00:10:31: Aber Zuckerberg konntert das mit einem sehr historischen, fast schon staatsphilosophischen Argument.

00:10:37: Richtig?

00:10:38: Ja

00:10:38: das tut er!

00:10:39: Er sagt die wahre existenzielle Gefahr sei nicht die Technologie an sich sondern exakt diese Machtkonzentration.

00:10:46: Vollkommen richtig

00:10:48: Wenn wir auf die Menschheitsgeschichte schauen.

00:10:50: Die Hoffnung dass eine absolute Macht also eine Art Liviatan die Menschheit schon wohlwollend versorgen wird ja so lange diese macht nur ausreichend erleuchtet ist Das hat fast nie zu einem guten Ende geführt.

00:11:04: Richtig,

00:11:05: eine zentralisierte von einem einzigen Konzern kontrollierte KI müsste unweigerlich bestimmte Werte über andere stellen.

00:11:12: Klar!

00:11:12: Sie müssten entscheiden welche politischen Ansichten akzeptabel sind, welche Kunstformen legitim sind und

00:11:18: wer Zugang zu welchen Informationen erhält?

00:11:20: Genau sie kann nicht zu jedem wohlwollend sein weil Menschen nun einmal völlig gegensätzliche Interessen haben.

00:11:26: ja die Gesellschaft ist ja keine Monokultur.

00:11:29: Eine zentral kontrollierte KI wäre laut Zuckerberg das Ende der kulturellen und intellektuellen Vielfalt.

00:11:50: Wie viel von dieser Argumentation ist denn bitte schön reine Unternehmensstrategie von Meta einfach nur elegant verpackt in staatsmännische Philosophie?

00:11:58: Das ist der springende Punkt.

00:11:59: Wenn wir das mit dem größeren Bild verknüpfen, Meta verpackte hier brillant seine eigene strategische Positionierung als moralischen Imperativ.

00:12:07: Aha!

00:12:07: Allein der Begriff Open Source fällt in diesem six-tausend fünfhundert Worte Essay ganze sechzehnmal.

00:12:13: Wow...sechszehn

00:12:14: Mal?!

00:12:14: Ja

00:12:15: Er warnt die US-Regierung auch ganz unverblümt davor, amerikanische Open Source Modelle aus Sicherheitsbedenken herauszuregulieren.

00:12:22: Da sonst ausländische Konkurrenten vorbeiziehen würden.

00:12:26: Und man muss sich den technischen Kontext ansehen der zeitgleich mit diesem Essay enthüllt wurde?

00:12:31: Genau darauf wollte ich hinaus!

00:12:32: Du

00:12:33: spielst auf die Veröffentlichung ihres neuen KI-Modells an.

00:12:35: Richtig – Muse Glimmer.

00:12:37: Exakt zeitgreich veröffentlicht Meter das Modell Muse Glamour Und die technischen Spezifikationen von diesem Ding verraten uns eigentlich alles über ihre Strategie.

00:12:49: Es ist ein Modell mit dreißig Milliarden Parametern, um das mal einzuordnen.

00:12:54: Konkurrenzmodelle wie GPT-FOR von OpenAI liegen Schätzungen zufolge im Bereich von über einer Billionen Parameter.

00:13:03: Also ein gewaltiger Unterschied?

00:13:04: Ein so gigantisches Modell von Open AI braucht riesiges Serverfarmen, um Anfragen zu verarbeiten!

00:13:11: Deine Daten müssen also zwingend immer in die Cloud des Anbieters geschickt werden.

00:13:15: Und Moose Glimmer geht exakt in die andere Richtung, dreizig Milliarden Parameter bedeutet doch es ist durch Techniken wie Quantisierung stark komprimiert oder?

00:13:25: Richtig!

00:13:26: Es ist klein und effizient genug um lokal auf dem VRAM, also dem Grafikspeicher eines handelsüblichen Laptops zu laufen

00:13:34: Oder sogar auf einem wirklich leistungsstarken Smartphone.

00:13:36: Ganz genau Und das ist entscheidend, denn es ist explizit als persönlicher Agent konzipiert.

00:13:44: Meter

00:13:44: hat erkannt... Wenn eine KI im Alltag wirklich nützlich sein soll, wenn sie deinen Kalendermanagen deine lokalen Dokumente lesen und deine E-Mails sortieren soll.

00:13:53: Dann braucht sie einen unfassbar tiefen Zugriff auf dein intimsten persönlichen Kontext.

00:13:59: Und kein vernünftiger Mensch würde oder im Fall von Unternehmen dürfte sensible Dokumete oder intimste private Chat Verläufe permanent an einen Server in Karifornien schicken.

00:14:10: Exakt!

00:14:10: Die einzige Möglichkeit wie dieses Vertrauensproblem überhaupt gelöst werden kann und dieser Agenten im Alltag Fuß fassen, ist wenn die Inferenz, also die eigentliche Rechenleistung lokal auf deinem Gerät stattfindet.

00:14:23: Also wenn deine Daten das Haus nie verlassen?

00:14:25: Genau!

00:14:26: Und Meta zielt auf genau diesen Markt der lokalen Agenten ab.

00:14:30: Mit Zuckerbergs Essay greifen sie also das cloud-basierte geschlossene Geschäftsmodell von Google & OpenAI fundamental an.

00:14:38: Sie sagen quasi... Wer KI in der Cloud zentralisiert ist nicht nur unsicher, sondern ein Feind der individuellen Freiheit.

00:14:46: Ein genialer Schachzug ja!

00:14:47: Aber er fordert ja lustigerweise nicht den kompletten wilden Westen.

00:14:51: Nein?

00:14:51: Gerade wenn es um Themen der nationalen Sicherheit geht, schlägt er in dem Essay einen sehr spezifischen strategischen Kompromiss vor.

00:14:58: Das

00:14:59: ist der politische Schach.

00:15:00: Zug an der Sache.

00:15:01: Er sagt den Regulierungsbehörden nämlich nicht einfach hey lasst uns in Ruhe

00:15:05: Sondern

00:15:06: er schlägt eine proaktive Zusammenarbeit vor, bei der führende KI-Labore den Regierungen sogenannte Intermediate Training Checkpoints übergeben.

00:15:15: Okay, warte!

00:15:16: Das heißt noch während das Modell im Rechenzentrum über Monate hinweg trainiert wird und Millionen Dollar an Strom verbraucht gibt Meter zwischen Versionen dieses unfertigen Modells an staatliche Stellen wie die NSA oder das Verteidigungsministerium?

00:15:30: Richtig Aber

00:15:30: warum?!

00:15:31: Damit der Staat kritische Infrastrukturen, also Stromnetze und militärische Systeme gegen neue Bedrohungen- und Angriffsvektoren härten kann.

00:15:40: Und zwar bevor das finale Modell der Öffentlichkeit als Open Source zur Verfügung gestellt wird!

00:15:45: Wow

00:15:46: okay... Es ist ein genialer Deal.

00:15:48: er bietet den Behörden den zeitlichen Vorsprung und die Sicherheit die sie fordern?

00:15:54: Argumentiert aber gleichzeitig, dass das finale Release für den normalen Bürger dadurch auf keinen Fall verzögert oder zensiert werden darf.

00:16:02: Genau!

00:16:02: Er bekommt was er will und die Regierung fühlt sich sicher.

00:16:06: Diese strategische Kohärenz ist schon wirklich bemerkenswert.

00:16:09: Meter hat quasi einen Weg gefunden sein Produkt als den ultimativen Schutzschild der Demokratie zu inszenieren.

00:16:16: Ja,

00:16:17: das kann man so sagen... Aber

00:16:18: wenn diese ganze Argumentation mechanisch und ökonomisch so unfassbar schlüssig Warum schlägt er dann eigentlich eine so immense Welle der Skepsis und teils offener Feindseligkeit entgegen?

00:16:30: Das ist ne gute Frage.

00:16:31: Das bringt uns zu dem, was der EI Daily Brief des Messenger-Problem nennt – also das Problem des Booten.

00:16:37: Ja die Architektur der Botschaft mag in sich völlig logisch sein aber der Boote isst in den Augen der Öffentlichkeit nun mal extrem belastet.

00:16:46: Gelinde gesagt

00:16:47: Die gesamte KI-Branche zahlt gerade die Rechnung für die Sünden der Web-Zwein-Null-Error.

00:16:53: Die Analysen aus unseren Quellen belegen das auch mit sehr harten Zahlen.

00:16:57: Umfragen zeigen, dass vierundsechzig Prozent der US-Bürger der festen Überzeugung sind – Social Media habe der Demokratie massiv geschadet!

00:17:07: Und jetzt steht ausgerechnet derselbe CEO dessen Plattform für Polarisierung und Filterblasen scharf kritisiert wurden vor der Welt und sagt… Leute, diesmal bei dieser noch viel mächtigeren Technologie machen wir alles besser.

00:17:20: Vertraut

00:17:21: uns!".

00:17:22: Die Leute trauen Tech-Millardären schlichtweg nicht mehr über den Weg.

00:17:25: Nein, tun sie nicht!

00:17:26: Vor allem nicht wenn es solch krasse Widersprüche zwischen dem philosophischen Optimismus im Essay und der harschen Realität des eigenen Unternehmens gibt.

00:17:37: Ich meine – Es grenzt schon an Zynismus, wenn Zuckerberg lang und breit von einer Zukunft mit einer Fülle an neuen Firmen und neuen Berufen philosophiert während Meta selbst erst kurz zuvor achttausend Mitarbeiter vor die Tür gesetzt hat.

00:17:52: Ja, das Timing war nicht gut.

00:17:54: Und das ausgerechnet mit der Begründung man müsse Ressourcen für den internen KI-Pivo freimachen.

00:18:00: da verliert dieses Argument von KI als Jobmotor doch extrem schnell an Glaubwürdigkeit.

00:18:06: Es offenbart halt eine gewisse Trennung zwischen der elitären Blase im Silicon Valley und dem Alltag normaler Menschen und nirgendwo wurde das sichtbarer als bei dem sogenannten Hobby Backlash.

00:18:19: Ah, das Backbeispiel.

00:18:20: Ja Zuckerberg wollte in seinem Essay greifbare alltägliche Beispiele bringen um KI zugänglich zu machen.

00:18:28: Er beschrieb wie wunderbar es sei dass eine KI für ihn und seine Tochter am Wochenende hochgradig personalisierte Backrezepte plant automatisch die genauen Zutatenmengen an den Supermarkt übermittelt ja und ihnen beim Rühren jeden noch so kleinen Handgriff auf Effizienz trinkt.

00:18:44: Diese Anekdote ist ihm in den Medien ja völlig um die Ohren geflogen.

00:18:47: Aber völlig!

00:18:48: Technologiemagazine wie The Verge haben das regelrecht in der Luft zerrissen?

00:18:52: Der Tenor, der Kritik war ja... Ein durch einen Algorithmus delegiertes, effizienzoptimiertes Rezept ersetzt einfach keine menschliche Zuwendung.

00:19:01: Richtig Liebe und familiäre Bindung zeigen sich doch durch ungeteilte Aufmerksamkeit und gemeinsames Ausprobieren.

00:19:08: auch wenn da mal etwas schief geht.

00:19:09: beim Backen Genau Die Zeit, die der superintelligente Agent angeblich spart hätte man doch nutzen keinen um... keine Ahnung in einem alten Kochbuch der Großmutter zu blättern oder einfach nur das Chaos beim gemeinsamen Backen zu genießen.

00:19:24: Die Kritik war vernichtend!

00:19:26: Die Tech-Elite will Dinge auf Effizienz trimmen deren einziger Sinn und Zweck für uns Menschen es ist eben nicht optimiert zu sein.

00:19:34: Das ist eine hasche Kritik, die den Finger wirklich tief in die Wunde der Entfremdung legt.

00:19:39: Aber wir dürfen den Diskurs hier auch nicht einseitig verengen?

00:19:43: Nein natürlich nicht!

00:19:44: Wir müssen fair prüfen ob diese antitechnologische Reflexhaltung immer gerechtfertigt ist.

00:19:49: Die Quellen zitieren ja auch Gegenstimmen, die zeigen dass die Integration von KI in dem Alltag völlig andere sehr positive Dynamiken auslösen kann.

00:19:58: Absolut.

00:19:59: Der AI Daily Brief hebt da beispielsweise die Erfahrungen von Claire Vaux hervor, einer bekannten Techführungskraft.

00:20:07: Sie hat geschildert wie sie KI-Modelle genutzt hat um mit ihren Kindern kreative Projekte umzusetzen.

00:20:13: In ihrem Fall haben sie den KI-Agenten genutst um eigene Pokémon ähnliche Sammelkarten zu erfinden Die auf Figuren der griechischen Mythologie basieren.

00:20:23: Oh das ist cool.

00:20:24: Die Kinder dachten sich Fähigkeiten aus, die KI generierte die Bilder und die passenden Spielwerte dazu.

00:20:30: Und am Ende haben sie die Karten physisch ausgedruckt.

00:20:33: Das heißt, die Mechanik dahinter ist eigentlich faszinierend.

00:20:37: anstatt dass die Kinder Passiv-Tiktokvideos konsumieren oder einfach auf einem Tablet wischen fungiert die KI hier als eine Art kreativer Verstärker der die Familie vom Bildschirm weg und an den Basteltisch bringt.

00:20:48: Richtig!

00:20:49: Es ist also am Ende eine Frage der Anwendungsebene.

00:20:53: Die Technologie zwingt uns nicht in die Dystopie, sie bietet nur das Werkzeug.

00:20:58: So kann man es sehen ja!

00:20:59: Wir haben jetzt sehr tief über Code, Agenten und gesellschaftliche Konzepte gesprochen.

00:21:06: aber diese Superintelligenz schwebt ja nicht als magischer Geist in einer körperlosen Cloud?

00:21:12: Nein ganz sicher nicht.

00:21:13: Sie erfordert eine massive physische Infrastruktur.

00:21:17: Wir reden hier über gigantische Rechenzentren, die unvorstellbare Mengen an Strom und Wasser verbrauchen.

00:21:23: Wenn wir uns die Vision einer KI für jedermann ansehen – wie lässt sich das eigentlich mit der harten industriellen Realität dieser riesigen Anlagen vereinbaren?

00:21:32: Hier treffen die hochfliegenden Visionen wirklich auf harten Beton!

00:21:35: Und Zuckerberg wird mit diesem Konflikt erstaunlich viel Raum in seinem Text.

00:21:39: Okay.

00:21:40: Rechencentren sind keine normalen Serverfarmen, wie wir sie von früher kennen….

00:21:45: Durch die massive Dichte an Grafikprozessoren entstehen enorme thermische Lasten.

00:21:50: Die Dinger werden extrem heiß.

00:21:52: Genau, das bedeutet gigantischer Kühlwasserbedarf der in besonders trockenen Regionen den Grundwasserspiegel ernsthaft bedrohen kann?

00:22:28: Ja!

00:22:33: Und dazu kommt ein Stromverbrauch im Gigawattbereich, der lokale Stromnetze so stark belastet dass die Energiepreise für normale Bürgermassiv steigen.

00:22:46: Das hat in den USA ja bereits zu erheblichen Bürgerprotesten und Baumuratorien geführt, oder?

00:22:51: Ja das ist ein riesiges politisches Thema dort.

00:22:53: Um dem entgegenzuwirken fordert Zuckerberg in seinem Essay einen sogenannten Community Compact Also eine Art sozialen Vertrag zwischen den Tech-Konzernen und den Kommunen.

00:23:05: Und Meta belässt es dabei scheinbar nicht nur bei Worten.

00:23:07: Sie haben zeitgleich einen Ein Milliarden Dollar Fonds lanciert Den Future is For Everyone Fund.

00:23:13: Richtig.

00:23:13: Und im Text finden sich auch sehr spezifische Zahlen, wie diese Gelder wirken sollen.

00:23:18: Er nennt er zum Beispiel Richland Parish in Louisiana wo Meta ein neues Datenzentrum hochzieht.

00:23:24: Okay.

00:23:24: Dort haben Lehrer angeblich bedingt durch Metas direkte Investitionen und Steuereinnahmen Boni von fünfzigtausend Dollar erhalten.

00:23:32: Fünfzigtaussend Dollar?

00:23:33: Ja.

00:23:34: Und sie gehen noch weiter in die Infrastruktur.

00:23:35: Meta baut nicht nur das Rechenzentrum, Sie gründen auch eigene Workforce Academies um lokale Handwerker und Techniker für den Betrieb auszubilden.

00:23:44: Zudem investieren sie direkt in die lokale Inenergieinfrastruktur.

00:23:48: Sie bauen Umspannwerke und erneuerbare Energien aus, um das Netz nicht nur anzuzapfen sondern im Idealfall sogar überschüssigen Strom an die Kommune

00:23:57: zurückzugeben.".

00:23:59: Wir müssen erst mal kurz analytisch betrachten.

00:24:01: Ist das echter Altruismus, also der edle Wille eines Unternehmens die Schulen im ländlichen Louisiana zu fördern?

00:24:09: Oder erklären uns die Analysen im AI Daily Brief den wahren Mechanismus dahinter?

00:24:14: Wenn ich an die ganzen Proteste gegen den Wasserverbrauch denke wirkt diese Milliarde Dollar doch eher wie eine eiskalt kalkulierte geschäftskritische Ausgabe.

00:24:24: Ja

00:24:24: Es ist im Grunde das nötige Schmiermittel, um den lokalen Widerstand und den Aktivismus im Keim zu ersticken.

00:24:30: Die Tech-Konzerne stecken in einem brutalen geopolitischen Wettlauf mit China.

00:24:35: Richtig!

00:24:35: Sie müssen diese Rechenzentren jetzt bauen – jegliche Verzögerung durch Bürgerinitiativen oder lokale Baubehörden kostet sie sofort Milliarden.

00:24:51: Egal ob man es jetzt Philanthropie oder politisches Schmiermittel nennt, die Mechanismen ändern sich gerade grundlegend.

00:24:58: Ein

00:25:00: solcher Community-Compact ist fortan keine nette PR-Maßnahme mehr – er ist eine feste Position, die in die Baukosten jedes neuen KI Rechenzentrums auf der Welt eingepreist werden muss!

00:25:12: Die Branche hat schlichtweg verstanden, dass sie diese massive physische Expansion ohne die direkte finanzielle Teilhabe der lokalen Bevölkerung politisch überhaupt nicht mehr durchsetzen kann.

00:25:23: Es ist schon wirklich bemerkenswert wie in diesem einen Essay globale Geopolitik, staatsphilosophische Theorien über Machtbalance und die Boni von Lehrern in Louisiana zu einer einzigen Erzählung verschmelzen.

00:25:37: Ja es ist ein dichtes Konstrukt Wenn

00:25:40: wir jetzt mal einen Schritt zurücktreten und all das zusammenfassen.

00:25:43: Meta hat ein massives Vertrauensproblem, die Beispiele des Essays waren teilweise emotional ungeschickt gewählt und die Diskrepanz zwischen Entlassungen und Jobversprechen ist eklatant.

00:25:55: Absolut!

00:25:56: Aber wenn wir auf die reine Wirkung schauen, hat Mark Zuckerberg mit diesem Manifest sein Ziel am Ende erreicht?

00:26:02: Ähm... Aus einer rein strategischen Perspektive ja absolut

00:26:07: Ja.

00:26:08: Was wir hier beobachten, ist eine signifikante Verschiebung des sogenannten Overtonefensters.

00:26:13: Ah das Overtonfenster!

00:26:16: Also der Rahmen dessen was im öffentlichen und politischen Diskurs überhaupt als normale akzeptable Meinung gilt?

00:26:22: Genau.

00:26:23: Bisher wurde die KI-Debatte ja stark von den Extremen dominiert.

00:26:28: Auf der einen Seite die Weltuntergangspropheten, die fordern dass wir die Entwicklung aus existenzieller Angst komplett stoppen müssen und

00:26:35: auf der anderen Seite die Fraktion des blinden grenzenlosen Hypes.

00:26:39: Richtig!

00:26:40: Meter hat sich jetzt mit dem ganzen Gewicht von Milliarden an Kapital extrem kraftvoll in der Mitte positioniert.

00:26:46: So etablieren das Narrativ des pragmatischen dezentralen Weges.

00:26:51: Ganz genau!

00:26:51: KI wird nicht als unkontrollierbare Gottmaschine gerahmt, sondern als hochgradig personalisierter lokal laufende Assistent.

00:26:59: Und genau dieses Konzept des extrem personalisierten Assistenten führt uns zu einer gigantischen Konsequenz die in den Quellen zwar mitschwingt über die wir aber als Gesellschaft dringend nachdenken müssen.

00:27:10: META propagiert das sogenannte Alignment-Problem Also die Frage an welchen ethischen Werten sich eine KI eigentlich orientiert, fundamental anders zu lösen.

00:27:20: Anstatt dass ein elitäres Gremium in Kalifornien zensiert was die KI sagen oder tun darf soll sich der Agent zu hundert Prozent loyal den Zielen seines individuellen Nutzers anpassen.

00:27:32: Er gehört dir!

00:27:33: Richtig mein lokaler Agent arbeitet nur für meinen Vorteil und dein Agent arbeitet.

00:27:40: Wenn wir Zuckerbergs Vision ernst nehmen und in wenigen Jahren Milliarden von diesen superintelligenten Agenten haben, die perfekt darauf trainiert sind, die teils völlig gegensätzlichen egoistischen Ziele ihrer Besitzer rücksichtslos durchzusetzen?

00:27:54: Ja.

00:27:54: Wie sieht unser Alltag dann eigentlich aus?

00:27:57: Was passiert mit unserem sozialen Gefüge wenn mein superintelligente Agent mit deinem superintelligen Agenten im Hintergrund hart um Ressourcen Termine oder vertragliche Vorteile verhandelt Und wir Menschen am Ende eigentlich nur noch das Ergebnis dieser Maschinen-Kollisionen abnicken?