Diskussion über die Zukunft von AI und die Entwicklung aktueller AI-Systeme.

Die Zukunft von AI - Diskussion über die Vorhersagen von Leopold Aschenbrenner zur künstlichen Superintelligenz und deren Auswirkungen. AI-Systeme und deren Entwicklung - Aschenbrenners Ansichten zur Entwicklung aktueller AI-Systeme und deren Potenzial, die menschliche Intelligenz zu übertreffen.

Vorhersagen zur Leistungsfähigkeit von AI und Limitierungen von Energie und Daten in der Entwicklung von AI-Systemen.

Leistungsprognosen für AI - Vorhersage von Aschenbrenner über die zukünftige Leistungsfähigkeit von AI und die mögliche Übernahme menschlicher Tätigkeiten. Energie- und Datenlimitierungen - Diskussion über die Limitierungen von Energie und Daten bei der Entwicklung von AI-Systemen und deren Auswirkungen.

Kritik an techno-utopischen Vorstellungen und Lösungen für Datenprobleme durch AI.

Techno-utopische Vorstellungen - Kritik an techno-utopischen Vorstellungen und deren Realisierbarkeit im Kontext der Energie- und Ressourcenbeschaffung. AI und Datenprobleme - Aschenbrenners Ansichten zur Lösung von Datenproblemen durch AI und die Realisierbarkeit dieser Lösungen.

Potenzielle Auswirkungen von AGI und Sicherheitsrisiken von AGI.

Potenzielle Auswirkungen von AGI - Diskussion über potenzielle Auswirkungen von AGI auf die Wissenschaft, Technologie und Fehlervermeidung. Sicherheitsrisiken von AGI - Analyse der Sicherheitsrisiken von AGI und deren potenzielle Auswirkungen auf die Weltwirtschaft und internationale Beziehungen.

Rückblick auf frühere Vorhersagen und Werbung für Brilliant.org.

Vorhersagen und Erkenntnisse - Rückblick auf frühere Vorhersagen zur Entwicklung von Maschinenintelligenz und kritische Betrachtung von Aschenbrenners Vorhersagen. Werbung für Brilliant.org - Werbung für die Kurse von Brilliant.org und deren interaktive Lerninhalte in verschiedenen wissenschaftlichen Themen.

# AI und die Zukunft: Ein Blick auf die Vorhersagen

## Die Zukunft von künstlicher Intelligenz

### Ein Blick auf die Vorhersagen von Leopold Aschenbrenner

Alle reden jetzt über AI, aber wenige haben den feinstesten Glimmer, was sie aufhören wird. Das ist eine Quote von Leopold Aschenbrenner, der vorhin von OpenAI gefeiert wurde. Er glaubt, dass die artificielle Superintelligenz gerade die Kante ist und eine 165-Page-Essay aufgeschrieben hat, warum. Ich habe die letzte Woche dieses Essay gelesen und will dir sagen, was er sagt und warum ich er falsch ist.

### Hintergrund von Aschenbrenner

- Junger Mann, 20er-Jähriger, deutscher Hersteller
- Hatte einen kurzen GIG am Oxford Center for Global Priorities
- Lebt jetzt in San Francisco und hat eine Investorenfirma auf Artifizierte Generales Intelligenz gegründet

### Aschenbrenners Vorhersagen

- Aktuelle AI-Systeme skalieren unglaublich schnell
- Sie werden bald die menschliche Leistung in fast allen Bereichen übertreffen
- Bis 2027 wird Artifizierte General Intelligenz, AGI, für kurz, laut Aschenbrenner die menschliche Intelligenz in fast allen Bereichen übernehmen
- Er glaubt, dass die Intelligenz-Explosion, verursacht von extrem schnellem Prozess in der Wissenschaft, Technologie und der Gesellschaft insgesamt, führen wird

### Kritik an Aschenbrenners Vorhersagen

- Er unterschätzt die beiden größten limitierten Faktoren, Energie und Daten
- Die Training größerer Modelle nehmen eine enorme Menge Energie auf
- Die Beschaffung von Daten für AI wird zu einem großen Problem werden

### Fazit

Aschenbrenners Vorhersagen sind ambitioniert, aber es gibt auch kritische Punkte zu beachten. Die Zukunft von künstlicher Intelligenz ist spannend, aber es gibt auch Herausforderungen, die berücksichtigt werden müssen.

## Lernen Sie mehr über AI und Neural Networks

Wenn Sie mehr über Neural Networks und Large Language Models lernen wollen, dann kann ich Ihnen die Kursen auf brilliant.org ansehen. Brilliant.org bietet Kursen auf eine große Menge Topics in Wissenschaft, Computer- und Mathematik. Alle Kursen haben interaktive Visualisations- und kommen mit Follower-Fragen. Manche haben sogar verwendbare Python-Skripte oder Videos mit kleinen Demonstrationen.

Ob Sie mehr über große Sprachmodelle oder Quantencomputing erfahren möchten, Coding in Python lernen oder wissen, wie Computermemory funktioniert, Brilliant hat Sie abgedeckt. Und sie bewerben neue Kursen pro Monat.

### Spezielles Angebot für unsere Zuschauer

Wenn Sie meinen Link brilliant.org/sabine nutzen, bekommen Sie alles, was Brilliant für die ganze 30 Tage offert. Und du bekommst 20% der annualen Premium-Subscription. Also geh und schau das mal an.

## Schlussgedanken

Die Zukunft von AI ist voller Potenzial, aber auch voller Herausforderungen. Wir müssen die Entwicklungen aufmerksam verfolgen und uns auf die Chancen und Risiken gleichermaßen vorbereiten.

Vielen Dank für's Zuschauen! Bis zum nächsten Mal!

Die Zukunft von künstlicher Intelligenz: Chancen und Herausforderungen

- Der Sprecher diskutiert die Vorhersagen eines Experten über künstliche Superintelligenz (ASI)
- Der Experte glaubt, dass ASI bald die menschliche Intelligenz übertreffen wird
- Der Sprecher ist skeptisch und glaubt, dass Energie- und Datenbeschränkungen die Entwicklung von ASI behindern werden
- Der Experte diskutiert auch Sicherheitsrisiken im Zusammenhang mit ASI und sieht einen Wettbewerb zwischen den USA und China
- Der Sprecher glaubt, dass die Entwicklung von ASI länger dauern wird als vom Experten vorhergesagt
- Der Sprecher empfiehlt Kurse auf brilliant.org für diejenigen, die mehr über künstliche Intelligenz lernen möchten.

- Helium-Energie-Zellen produzieren Netzpower aus Nuklear- und Fusionsenergie
- Dank fürs Zuschauen, bis morgen!

Learn more about neural networks and large language models on Brilliant! First 30 days are free and 20% off the annual premium subscription when you use our link ➜  https://brilliant.org/sabine. 

I had a look at Leopold Aschenbrenners recent (very long) essay about the supposedly near "intelligence explosion" in artificial intelligence development. I am not particularly convinced by his argument. You can read his essay here: https://situational-awareness.ai/

🤓 Check out my new quiz app ➜  http://quizwithit.com/ 
💌 Support me on Donorbox ➜ https://donorbox.org/swtg
📝 Transcripts and written news on Substack ➜ https://sciencewtg.substack.com/
👉 Transcript with links to references on Patreon ➜ https://www.patreon.com/Sabine
📩 Free weekly science newsletter  ➜ https://sabinehossenfelder.com/newsletter/
👂 Audio only podcast ➜  https://open.spotify.com/show/0MkNfXlKnMPEUMEeKQYmYC
🔗 Join this channel to get access to perks ➜ 
https://www.youtube.com/channel/UC1yNl2E66ZzKApQdRuTQ4tw/join
🖼️ On instagram ➜ https://www.instagram.com/sciencewtg/

#science #sciencenews #tech #technews #ai

Alle reden jetzt über AI, aber wenige haben den feintesten Glimmer, was sie aufhören wird.

Das ist eine Quote von Leopold Aschenbrenner, der vorhin von OpenAI gefeiert wurde.

Er glaubt, dass die artificielle Superintelligenz gerade die Kante ist und eine 165-Page-Essay aufgeschrieben hat, warum.

Ich habe die letzte Woche dieses Essay gelesen und will dir sagen, was er sagt und warum ich er falsch ist.

Lass mich mit ein paar Kontexten an Aachenbrenner beginnen, die du hier siehst.

Junger Mann, 20er-Jähriger, deutscher Hersteller, hatte einen kurzen GIG am Oxford Center for Global Priorities, jetzt lebt er in San Francisco und, aufgrund seiner eigenen Website, hat er eine Investorenfirma auf Artifizierte Generales Intelligenz gegründet.

In seinem neuen Essay sagt Aschenbrenner, dass die aktuellen AI-Systeme sehr schnell aufgelistet werden.

Ende recently founded an investment firm focused on artificial general intelligence.

In his new essay, Aschenbrenner says that current AI systems are scaling up incredibly quickly.

He sees no end to this trend and therefore they'll soon outperform humans in pretty much anything.

I can't see no end, says man who earns money from seeing no end.

He explains that the most relevant factors that currently contribute to the growth

of sobald Menschen in fast alles ausüben.

Ich sehe keine Ende, sagt der Mann, der Geld

meisten Faktoren, die aktuell in der Entwicklung der AI-Performance

beteiligt sind, die Angriffe auf die Computung von Klassen und die Verbesserung der Algorithmen.

Keiner dieser Faktoren ist noch noch weitersaturiert.

Das ist deshalb, sagt er, dass die Leistung für etwa mehrere Jahre noch mehr weiter verbessert werden wird.

Und das ist genug für die AI, die menschliche Intelligenz auf ziemlich alle Tatsachen zu übernehmen.

By 2027 wird Artifizierte General Intelligenz, AGI, für kurz, according to Aschenbrenner, er schreibt, dass eine sehr große Kontributanz zu diesem Trend sein wird, was er nennt Unhoppeln.

So bedeutet er, dass die aktuellen AIs eine Veränderung haben, die leicht überwiesen werden können, und bald überwiesen werden.

Zum Beispiel eine Lackung von Erinnerungen oder dass sie nicht selbst Computerspielen können.

Wie, warum nicht sie zu einem Mathematik-Software linkieren?

Ebenso, lassen sie YouTube live streamen.

Ich weiß, es klingt ein bisschen verrückt, aber ich bin mit ihm so weit.

Ich denke, er ist richtig, dass es nicht lange dauern wird, bis die Art zum Menschen ausgeschmolzen wird.

Denn, ich meine, es ist nicht so hart, oder?

Ich stimme auch, dass sich bald nach dem Entwurf der Artifizieren selbst und ihre eigenen Algorithmen verbessern können.

Wo ich den Bus ausreißen werde, ist, wenn er sagt, dass dies die Intelligenz-Explosion, verursacht von extrem schnellem Prozess in der Wissenschaft, Technologie und

der Gesellschaft insgesamt, führen wird.

Where I get off the bus is when he concludes that this will lead to the intelligence explosion accompanied by extremely rapid progress in

science and technology and society overall.

Do you get off the bus and miss the boat?

These damn English idioms always throw me off.

das Boot oder aus dem Boot gehen und das Bus missen.

Diese verdammten englischen Idioten verwerfen

Der Grund, warum ich in Aschenbrenner's Prediktionen nicht glaube, ist, dass er die beiden größten limitierten Faktoren, Energie und Daten, komplett untersteht.

Training größere Modelle nehmen eine enorme Menge Energie auf.

According zu Aschenbrenner, werden bis 2028 die vorausgelegten Modelle auf 10 Gigawatt von Kraft auf eine Kosten von ein paar Hundert Billionen Dollar gerannt.

By 2030 werden sie auf 100 Gigawatt auf eine Kosten von ein Trillion Dollar gerannt.

Im Vergleich zu einer typischen Powerplant, gibt es auch eine Kante

By 2030, they'll run at 100 Gigawatts at a cost of a trillion dollars.

For comparison, a typical power plant delivers

something in the range of a gigawatt or so.

That means by 2028, they'd have to build 10 power plants in addition to the supercomputer cluster.

2028, dass ich zehn Powerplanten in Erdbewerb für den Superkompass bauen muss.

Was haben all diese Powerstations aufgenommen?

Nun, so wie die Uschenbrenner auf Naturgas.

Auch der 100-Gigawatt-Kloster, überraschend fähig, schreibt er, weil das nur etwa 1200 oder so neue Wellen nehmen würde.

Well, according to Aschenbrenner on natural gas.

Even the 100GW cluster surprisingly doable, he

writes, because that'll take only about 1200 or so new wells.

And if that doesn't work, I guess they can just go this time out 1 way and switch to nuclear fusion power.

Honestly, I think these guys have totally lost the plot.

Und wenn das nicht funktioniert, kann ich das nur auf einmal gehen und an die Nuklearschleichtung ansteigen.

Ehrlich gesagt, glaube ich, dass diese Jungs die Plotten

Sie leben in einer techno-utopischen Bade, die Gruppsink in Kapital-Kranken geschrieben hat.

Ja, Helium Energie sagt, sie werden von neutralen-freien Nuklearfusion von 2028 produzieren.

Bevor wir auf die Seite gehen, gibt es einige witzige Gefühle, wie neutral-frei diese neutral-freien Fusion ist und ich würde sicher nicht irgendwo näher gehen.

Keiner hat sich jemals mit der Reaktion Net Energie ausgetauscht.

Ich habe alle Fusion-Startups in einem früheren Video gesprochen.

Ok, also habt ihr eure AI auf all die Daten, die online verfügbar waren, getraut.

Aschenbrenner sagt, kein Problem, du verwendest Roboter, die du getest.

Aschenbrenner denkt, dass AI alle restlichen Robotsprobleme lösen wird und die ersten Robots Fabriken bauen, mehr Robots zu bauen.

Ah, Ressourcen, die gegründet und transportiert werden, von, lass mich mal denken, mehr Robots, die in Fabriken gebaut werden, die von den Ressourcen, die von den Roboten ausgemalt werden, ausgebaut werden.

Die Bedeutung eines großen Roboter-Werkforsches wird nicht nur AGI benötigen, sondern auch die ganze Weltwirtschaft werden verändern.

Das wird eventuell passieren, aber nicht in einigen Jahren.

Und bis dann wird das größte Limit für AGI ein Lack von Daten sein.

Das beste Algorithm im Welt wird keine neuen Inszenen erwerben, wenn es keine Daten gibt, die zu arbeiten.

Das sagt, ich denke, er ist richtig, dass AGI fast sicherlich große Prognosen in Wissenschaft und Technologie erzielen kann.

Das ist, weil viel wissenschaftliches Wissen aktuell zu Waste geht, weil nur ein Mensch alles, was in der Werbung geschrieben wurde, aufwenden kann.

Es muss viele Inszenzen in der werblichen wissenschaftlichen Literatur ohne die Erkenntnis machen.

Eine andere relevante Sache, die AGI machen kann, ist, Error zu verhindern.

Der menschliche Geist macht viele Fehler, die oft einfach zu identifizieren und zu korrigieren sind.

Logische Fehler, scharfe, Stator-Retriever-Error, Erinnerungsabfall, warum ich in die Küche gegangen bin

Theological mistakes, spicy, state of retrieval error, memory lapses, why

Even before AGI actually does anything new, it'll change the world by basically removing these constant everyday errors.

The second half of his essay is dedicated to the security risks that go along with AGI.

His entire discussion is based on the US vs China, like the rest of the world basically doesn't exist.

Die zweite Hälfte seiner Essay ist für die Sicherheitsrissche, die mit AGI zusammengehen.

Seine ganze Diskussion ist aufgrund der USA gegen China, wie das Rest

Das ist ein Symptom des, was ich den Silicon Valley Bubble Syndrome nennen möchte.

Aber verhörlich, dass er vergessen hat, dass das Weltkrieg mehr als nur zwei Länder und dass die Weltmeer-Ekonomie in einer Klima-Krise aufgehört wird, ich stimme ihm ein.

Die meisten Menschen auf diesem Planeten, auch unsere Regierungen, unterstehen gerade sehr, wie groß der Einfluss auf AGI wird.

Und wenn sie aufwachen, versuchen sie schnell, die Kontrolle von AGI zu bekommen, die sie sich aufnehmen können und sich für ihre Nutzung schwerer zu verhindern.

Es ist nicht, dass ich das gut oder dass ich das wollen, aber das ist fast sicherlich, was da passieren wird.

In der Praxis wird es wahrscheinlich bedeuten, dass hochwertige Querele die Sicherheitsverwaltung benötigen.

Lass uns zurücksteigen und einen kurzen Blick auf die vergangenen Erwähnungsbedingungen der impenden Maschinenrevolution.

In 1960 hat Herbert Simon, ein Nobelpreis-Laurier in der Wirtschaft, spekuliert, dass Maschinen binnen 20 Jahren in jedem Arbeitstück ein Mann kann.

In den 1970ern hat Marvin Minsky festgestellt, dass die human-level-Machine-Intelligenz nur ein paar Jahre weg war.

In einem 1993 Essay hat der amerikanische Computer-Scientist Werner Winsch festgestellt, dass die technologische Singularität in weniger als 30 Jahren kommen würde.

Was ich von dieser langen Liste von erheblichen Erkenntnissen herstelle, ist, dass die Menschen, die in der Frontier-Research beteiligt sind, die Zeit, an der die Welt verändert werden kann, zu überstehen.

Ich wünsche mir, dass wir eigentlich im Weltall leben, in dem Aschenbrenner denkt, wir leben.

Ich kann nicht warten für Superhuman-Intelligenz.

Aber ich bin Angst, dass die Intelligenz-Explosion nicht so nahe ist, wie er denkt.

Also in der Zeit, gib nicht auf, deine Toaster zu lernen, deinen Toast zu fressen.

Artifizierte Intelligenz ist wirklich überall, diese Tage.

Wenn du mehr über Neuro-Netzwerke und große Sprache-Modelle lernen willst, ich empfehle dir, die Kursen auf brilliant.org zu schauen.

Wenn Sie mehr über Neural Networks und Large Language Models lernen wollen, dann kann ich Ihnen

Brilliant.org bietet Kursen auf eine große Menge Topics in Wissenschaft, Computer- und Mathematik.

Alle Kursen haben interaktive Visualisations- und kommen mit Follower-Fragen.

Manche haben sogar verwendbare Python-Skripte oder Videos

All their courses have interactive visualisations and come with follow

Some even have executable Python scripts or videos with little demonstration experiments.

Whether you want to know more about large language models or quantum computing, want to learn coding in Python or know how computer memory works, Brilliant has you covered.

Oder quantum computing, wollen Koding in Python lernen oder wissen, wie Computermemory funktioniert, Brilliant hat euch zu bewerben.

Und natürlich habe ich eine besondere Offerung für die Zuschauer dieses Channels.

Wenn Sie meinen Link brilliant.org slash sabine nutzen, bekommen Sie alles, was Brilliant für die ganze 30 Tage offert.

Und du bekommst 20% der annualen Premium-Subscription.

Ja, Helium-Energie-Sell produziert Netzpower aus Nürn-frei Nuklears, Nürn-frei Fusions, Nürn-frei Fusions, Nürn-frei Fusions.

Ja, Helium-Energie-Zellen produzieren Netzfüße aus neutralen, freien Nuklearen, aus neutralen, freien Fuss, neutralen, freien

Fuss, neutralen, freien Fuss, neutralen, freien Fuss.


Speaker 0: Alle reden jetzt über AI, aber wenige haben den feintesten Glimmer, was sie aufhören wird. Das ist eine Quote von Leopold Aschenbrenner, der vorhin von OpenAI gefeiert wurde. Er glaubt, dass die artificielle Superintelligenz gerade die Kante ist und eine 165-Page-Essay aufgeschrieben hat, warum. Ich habe die letzte Woche dieses Essay gelesen und will dir sagen, was er sagt und warum ich er falsch ist. Lass mich mit ein paar Kontexten an Aachenbrenner beginnen, die du hier siehst.

Junger Mann, 20er-Jähriger, deutscher Hersteller, hatte einen kurzen GIG am Oxford Center for Global Priorities, jetzt lebt er in San Francisco und, aufgrund seiner eigenen Website, hat er eine Investorenfirma auf Artifizierte Generales Intelligenz gegründet. In seinem neuen Essay sagt Aschenbrenner, dass die aktuellen AI-Systeme sehr schnell aufgelistet werden. Er sieht keinen

Speaker 1: Ende recently founded an investment firm focused on artificial general intelligence. In his new essay, Aschenbrenner says that current AI systems are scaling up incredibly quickly.

Speaker 0: He sees no end to this trend and therefore they'll soon outperform humans in pretty much anything. I can't see no end, says man who earns money from seeing no end. He explains that the most relevant factors that currently contribute to the growth

Speaker 1: of sobald Menschen in fast alles ausüben. Ich sehe keine Ende, sagt der Mann, der Geld

Speaker 0: von der Seehabe nicht endet. Er erklärt, dass die

Speaker 1: meisten Faktoren, die aktuell in der Entwicklung der AI-Performance

Speaker 0: beteiligt sind, die Angriffe auf die Computung von Klassen und die Verbesserung der Algorithmen. Keiner dieser Faktoren ist noch noch weitersaturiert. Das ist deshalb, sagt er, dass die Leistung für etwa mehrere Jahre noch mehr weiter verbessert werden wird. Und das ist genug für die AI, die menschliche Intelligenz auf ziemlich alle Tatsachen zu übernehmen. By 2027 wird Artifizierte General Intelligenz, AGI, für kurz, according to Aschenbrenner, er schreibt, dass eine sehr große Kontributanz zu diesem Trend sein wird, was er nennt Unhoppeln.

So bedeutet er, dass die aktuellen AIs eine Veränderung haben, die leicht überwiesen werden können, und bald überwiesen werden. Zum Beispiel eine Lackung von Erinnerungen oder dass sie nicht selbst Computerspielen können. Wie, warum nicht sie zu einem Mathematik-Software linkieren? Ebenso, lassen sie YouTube live streamen. Die Zukunftsbrüder!

Ich weiß, es klingt ein bisschen verrückt, aber ich bin mit ihm so weit. Ich denke, er ist richtig, dass es nicht lange dauern wird, bis die Art zum Menschen ausgeschmolzen wird. Denn, ich meine, es ist nicht so hart, oder? Ich stimme auch, dass sich bald nach dem Entwurf der Artifizieren selbst und ihre eigenen Algorithmen verbessern können. Wo ich den Bus ausreißen werde, ist, wenn er sagt, dass dies die Intelligenz-Explosion, verursacht von extrem schnellem Prozess in der Wissenschaft, Technologie und

Speaker 1: der Gesellschaft insgesamt, führen wird. Where I get off the bus is when he concludes that this will lead to the intelligence explosion accompanied by extremely rapid progress in

Speaker 0: science and technology and society overall. Do you get off the bus and miss the boat? Or get off the boat and miss the bus? These damn English idioms always throw me off. Und missen

Speaker 1: das Boot oder aus dem Boot gehen und das Bus missen. Diese verdammten englischen Idioten verwerfen

Speaker 0: mich immer. Der Grund, warum ich in Aschenbrenner's Prediktionen nicht glaube, ist, dass er die beiden größten limitierten Faktoren, Energie und Daten, komplett untersteht. Training größere Modelle nehmen eine enorme Menge Energie auf. According zu Aschenbrenner, werden bis 2028 die vorausgelegten Modelle auf 10 Gigawatt von Kraft auf eine Kosten von ein paar Hundert Billionen Dollar gerannt. By 2030 werden sie auf 100 Gigawatt auf eine Kosten von ein Trillion Dollar gerannt.

Im Vergleich zu einer typischen Powerplant, gibt es auch eine Kante

Speaker 1: von 1 Gigawatt. Von einigen hundert Billionen Dollar. By 2030, they'll run at 100 Gigawatts at a cost of a trillion dollars. For comparison, a typical power plant delivers

Speaker 0: something in the range of a gigawatt or so. That means by 2028, they'd have to build 10 power plants in addition to the supercomputer cluster. Can you do that? Totally. Is it going to happen?

You gotta be kidding me. 2028, dass ich zehn Powerplanten in Erdbewerb für den Superkompass bauen muss.

Speaker 1: Kann man das tun? Absolut. Wird das passieren? Du musst mich

Speaker 0: nur wütend sein. Was haben all diese Powerstations aufgenommen? Nun, so wie die Uschenbrenner auf Naturgas. Auch der 100-Gigawatt-Kloster, überraschend fähig, schreibt er, weil das nur etwa 1200 oder so neue Wellen nehmen würde.

Speaker 1: Well, according to Aschenbrenner on natural gas. Even the 100GW cluster surprisingly doable, he

Speaker 0: writes, because that'll take only about 1200 or so new wells. Totally doable. And if that doesn't work, I guess they can just go this time out 1 way and switch to nuclear fusion power. Honestly, I think these guys have totally lost the plot.

Speaker 1: Und wenn das nicht funktioniert, kann ich das nur auf einmal gehen und an die Nuklearschleichtung ansteigen. Ehrlich gesagt, glaube ich, dass diese Jungs die Plotten

Speaker 0: total verloren haben. Sie leben in einer techno-utopischen Bade, die Gruppsink in Kapital-Kranken geschrieben hat. Ja, Helium Energie sagt, sie werden von neutralen-freien Nuklearfusion von 2028 produzieren. Bevor wir auf die Seite gehen, gibt es einige witzige Gefühle, wie neutral-frei diese neutral-freien Fusion ist und ich würde sicher nicht irgendwo näher gehen. Keiner hat sich jemals mit der Reaktion Net Energie ausgetauscht.

Ich habe alle Fusion-Startups in einem früheren Video gesprochen. Dann gibt es die Daten. Ok, also habt ihr eure AI auf all die Daten, die online verfügbar waren, getraut. Was jetzt? Wo wird mehr Daten bekommen?

Aschenbrenner sagt, kein Problem, du verwendest Roboter, die du getest. Woher bekommst du diese Roboter? Aschenbrenner denkt, dass AI alle restlichen Robotsprobleme lösen wird und die ersten Robots Fabriken bauen, mehr Robots zu bauen. Okay, aber was bauen sie die Fabrik mit? Ah, Ressourcen, die gegründet und transportiert werden, von, lass mich mal denken, mehr Robots, die in Fabriken gebaut werden, die von den Ressourcen, die von den Roboten ausgemalt werden, ausgebaut werden.

Ich denke, das wird nicht funktionieren. Die Bedeutung eines großen Roboter-Werkforsches wird nicht nur AGI benötigen, sondern auch die ganze Weltwirtschaft werden verändern. Das wird eventuell passieren, aber nicht in einigen Jahren. Es wird also decades dauern. Und bis dann wird das größte Limit für AGI ein Lack von Daten sein.

Das beste Algorithm im Welt wird keine neuen Inszenen erwerben, wenn es keine Daten gibt, die zu arbeiten. Das sagt, ich denke, er ist richtig, dass AGI fast sicherlich große Prognosen in Wissenschaft und Technologie erzielen kann. Das ist, weil viel wissenschaftliches Wissen aktuell zu Waste geht, weil nur ein Mensch alles, was in der Werbung geschrieben wurde, aufwenden kann. AGI wird das machen können. Es muss viele Inszenzen in der werblichen wissenschaftlichen Literatur ohne die Erkenntnis machen.

Eine andere relevante Sache, die AGI machen kann, ist, Error zu verhindern. Der menschliche Geist macht viele Fehler, die oft einfach zu identifizieren und zu korrigieren sind. Logische Fehler, scharfe, Stator-Retriever-Error, Erinnerungsabfall, warum ich in die Küche gegangen bin

Speaker 1: und so weiter. Theological mistakes, spicy, state of retrieval error, memory lapses, why

Speaker 0: did I go to the kitchen and so on. Even before AGI actually does anything new, it'll change the world by basically removing these constant everyday errors. The second half of his essay is dedicated to the security risks that go along with AGI. His entire discussion is based on the US vs China, like the rest of the world basically doesn't exist.

Speaker 1: Die zweite Hälfte seiner Essay ist für die Sicherheitsrissche, die mit AGI zusammengehen. Seine ganze Diskussion ist aufgrund der USA gegen China, wie das Rest

Speaker 0: der Welt eigentlich nicht existiert. Das ist ein Symptom des, was ich den Silicon Valley Bubble Syndrome nennen möchte. Aber verhörlich, dass er vergessen hat, dass das Weltkrieg mehr als nur zwei Länder und dass die Weltmeer-Ekonomie in einer Klima-Krise aufgehört wird, ich stimme ihm ein. Die meisten Menschen auf diesem Planeten, auch unsere Regierungen, unterstehen gerade sehr, wie groß der Einfluss auf AGI wird. Und wenn sie aufwachen, versuchen sie schnell, die Kontrolle von AGI zu bekommen, die sie sich aufnehmen können und sich für ihre Nutzung schwerer zu verhindern.

Es ist nicht, dass ich das gut oder dass ich das wollen, aber das ist fast sicherlich, was da passieren wird. In der Praxis wird es wahrscheinlich bedeuten, dass hochwertige Querele die Sicherheitsverwaltung benötigen. Lass uns zurücksteigen und einen kurzen Blick auf die vergangenen Erwähnungsbedingungen der impenden Maschinenrevolution. In 1960 hat Herbert Simon, ein Nobelpreis-Laurier in der Wirtschaft, spekuliert, dass Maschinen binnen 20 Jahren in jedem Arbeitstück ein Mann kann. In den 1970ern hat Marvin Minsky festgestellt, dass die human-level-Machine-Intelligenz nur ein paar Jahre weg war.

In einem 1993 Essay hat der amerikanische Computer-Scientist Werner Winsch festgestellt, dass die technologische Singularität in weniger als 30 Jahren kommen würde. All diese Erkenntnisse waren falsch. Was ich von dieser langen Liste von erheblichen Erkenntnissen herstelle, ist, dass die Menschen, die in der Frontier-Research beteiligt sind, die Zeit, an der die Welt verändert werden kann, zu überstehen. Ich wünsche mir, dass wir eigentlich im Weltall leben, in dem Aschenbrenner denkt, wir leben. Ich kann nicht warten für Superhuman-Intelligenz.

Aber ich bin Angst, dass die Intelligenz-Explosion nicht so nahe ist, wie er denkt. Also in der Zeit, gib nicht auf, deine Toaster zu lernen, deinen Toast zu fressen. Artifizierte Intelligenz ist wirklich überall, diese Tage. Wenn du mehr über Neuro-Netzwerke und große Sprache-Modelle lernen willst, ich empfehle dir, die Kursen auf brilliant.org zu schauen.

Speaker 1: Wenn Sie mehr über Neural Networks und Large Language Models lernen wollen, dann kann ich Ihnen

Speaker 0: die Kursen auf brilliant.org ansehen. Brilliant.org bietet Kursen auf eine große Menge Topics in Wissenschaft, Computer- und Mathematik. Alle Kursen haben interaktive Visualisations- und kommen mit Follower-Fragen. Manche haben sogar verwendbare Python-Skripte oder Videos

Speaker 1: mit kleinen Demonstrationen. All their courses have interactive visualisations and come with follow

Speaker 0: up questions. Some even have executable Python scripts or videos with little demonstration experiments. Whether you want to know more about large language models or quantum computing, want to learn coding in Python or know how computer memory works, Brilliant has you covered. And they are adding new

Speaker 1: courses each month. Oder quantum computing, wollen Koding in Python lernen oder wissen, wie Computermemory funktioniert, Brilliant hat euch zu bewerben.

Speaker 0: Und sie bewerben neue Kursen pro Monat. Und natürlich habe ich eine besondere Offerung für die Zuschauer dieses Channels. Wenn Sie meinen Link brilliant.org slash sabine nutzen, bekommen Sie alles, was Brilliant für die ganze 30 Tage offert. Und du bekommst 20% der annualen Premium-Subscription. Also geh und schau das mal an.

Ja, Helium-Energie-Sell produziert Netzpower aus Nürn-frei Nuklears, Nürn-frei Fusions, Nürn-frei Fusions, Nürn-frei Fusions.

Speaker 1: Ja, Helium-Energie-Zellen produzieren Netzfüße aus neutralen, freien Nuklearen, aus neutralen, freien Fuss, neutralen, freien

Speaker 0: Fuss, neutralen, freien Fuss, neutralen, freien Fuss. Danke fürs Zuschauen, bis morgen! Vielen Dank für's Zuschauen.

See all Sabine Hossenfelder transcripts on Youtube

Is the Intelligence-Explosion Near? A Reality Check.