Yudkowsky's whole argument is that it seems like it is nearly impossible to do it right the first time and that there is a good possibility we don't get two tries. Not because it is malevolent, but because it is really hard to put into numbers what we care about.
The first half of the video is great. Completely agree, stop the harm now. Stop the CEOs, stop the naive techno-optimists.
The second half has a lot of strawmen. Let me give you an example:
He takes the 2027 reports Solar Powered robot machines maintenance crew (which is very futuristic and far fetched) and in the next statement taktes the "a blade of grass is a self replicating factory" and acts like Yudkowsky says the grass maintains the machines.
Yudkowsky's argument is that if AI wanted to kill us it would'nt need the robots. Biology has perfected self replication for a long time. Make some humans do your CRISPR gene tech for you (thanks gig economy). Engineering a stronger moscito with a neuro toxin is not something I understand as impossible. Our biology is very capable of folding all kinds of proteins if given the correct instructions. You don't need complex robot arms to (accidentally) kill humans. Our society is extremely fragile in thousands of ways.
If you manage to kill specific bugs we die, if you accelerate algee growth a lot we die. If you get enough carcoinogens into the food chain we die. If you engineer super resistant bacteria we die. If you rapidly deplete the ozon layer we die, if you disable the earth's magnetic field we die.
The point is: If you build something that is smarter than you (in any way) and that has some form of agency, it will outsmart you and beat you. Don't build it.
But it is possible to negotiate with Russia. Just do it in two stages: Make a show of force first, and only then have dialogue. The negotiations between President Ronald Reagan and the Soviet leader Mikhail Gorbachev that helped to end the Cold War could not have taken place had Reagan not first exploited the weaknesses of the U.S.S.R. by exerting heavy military and economic pressure, including by supporting groups and countries that were challenging the Soviets all over the world, like the Polish Solidarity movement and the Afghan mujahedeen. This two-stage approach did the trick: When the Kremlin elite realized that they were too weak to break Reagan’s determination they began to negotiate.
I can't believe anyone here read and understood this paragraph and then celebrates this. You guys do know what the mujahedeen went on to do, right? Right? Not even talking about instrumentalising tens of thousands of young humans to organise terror in a foreign country. Just the blowback should be enough to deter anyone from repeating that shit. That fucker just said: "yeah fuck the women in Afghanistan, at least in the 70s we showed the commies who's boss"
And don't come at me with the "Just do the game-theory zero sum game without the externalities then."
Putin ist ein Verbrecher und ein Lügner, das war er schon vor der Ukraine in Tschetschenien.
Wenn ich den blanken Zynismus hier lese dass jede Idee von Diplomatie naiv ist, dann hoffe ich dass ihr wisst was das bedeutet.
Ich verteidige auch nicht die zahnlose Diplomatie die betrieben wurde (um russische Rohstoffe günstig für den industriellen Aufbau Deutschlands und Österreichs zu verwenden). Bei aller Kritik die die Frau verdient, hat Merkel hier recht und wenn die einzige Antwort Nihilismus ist haben wir schon verloren.
Ich war beim Militär (Österreich hat noch Wehrpflicht), wenn es keine diplomatische Lösung gibt wird mein Arsch an der Grenze zerballert. Wenn ihr denkt dass eure Krankheit XY euch vom Dienst befreit wenn es eng wird, dann hat die Geschichte schlechte Nachrichten für euch.
Aid and development are (mostly) not what one would expect under the name.
Some of it is great - catastrophe relieve for example.
More than 90% of it is loans and the conditions and business structures under which these are distributed is at best "soft power" and at worst just straight imperialism. Keep some of the good parts, but yeah - slash the rest.
Ich hab mal gehört dass Zeugen Jehovas absichtlich so einen Stand betreiben wo sie zumeist angepöbelt werden. Die Konvertierungsrate ist nicht sonderlich hoch, aber die negative Erfahrung schweißt die Zeugen mehr zusammen. Ein defensives Meme, kein offensives.
Vllt ist das bei Redpill/Alpha/Pickup... Kreisen was ähnliches. Das negative Feedback ist das Ziel. Wenn die gute Beziehugnstipps geben würden dann würde sich die Gemeinschaft selbst zerstören, dann hätten wir das Problem nicht.
War nur ein Beispiel von einer anderen Form von Unterdrückung, für Menschen die wirklich glauben mit dem Abschaffen des Gesetzes ist alles gegessen.
Ich finds hin und wieder leichter so etwas zu erkennen wenn man "außerhalb" steht, wenn man nicht direkt involviert ist.
"Too often we judge other groups by their worst examples, while judging ourselves by our best intentions" - George W. Bush 2016. Der war nicht der erste der das gesagt hat, aber hin und wieder können wir sogar von Georgy lernen.
Ich war letztes jahr in Indien auf einer Hochzeit. Ich habe die Sitten nicht ganz durchblickt, aber mir wurde gesagt ich soll jetzt dem Kerl der das Pferd herumführt Trinkgeld zustecken. Der Bankomat spuckt dort nur 500 Rupien Scheine aus (ca 5€) - die größten Scheine die dort existieren. Der Mann hatte sichtlich Panik als ich ihm den Schein geben wollte, hat sich umgesehen und wurde nervös.
Später habe ich erfahren dass das eine Kasten Sache war, der durfte den von mir nicht annehmen. Das Kastensystem wurde offiziell 1948 abgeschafft. Wir müssen Feminismus leben.
Yeah, I am there with you. There is a book ont the topic thatI like (altough I disagree on many things with the author) called "the way is shut" by benjamin studebaker. It is way too expensive, but I heard of some pdfs somewhere...
The far-right governments are not being voted in based on material shortcomings produced through immigration or refugees.
There are material shortcomings based largely on wealth inequality and the immigrants/refugees are a scapegoat.
If we start throwing others under the bus to appease the far right we lose by default. We must demand and provide a life of dignity for everyone, this is a distribtuion issue.
My point is that there are sanctions that would hit them and we must pass those.
The moment we try to justify the preventable mass deportation and mass starvation of others we lose to gametheory.
So starved and (militarily) uneducated people should revolt against a dictatorship with fighter jets and drones? Or are you starving them enough so that they won't pay the military or mercenaries?
What kind of revolutionary nostalgia is this, we aren't living in the 1800s any more.
The government that uses these humans as pawns in their power game will not care for them.
You cannot win a power game by racing to the bottom with the opponent. The sanctions will hit the devasted people living in a brutal dictatorship and the only way to directly hit the perpetrators is by establishing rules on the movement of capital and that will be prevented by a multitude of moneyed interests.
Ich zweifle nicht daran dass es schwierig ist, ich bin skeptisch ob - im Zuge des Profitinteresse eines Unternehmens - ein Teil der Chips über die Notwendigkeit hinaus "gedrosselt" werden und damit künstlich die Leistungsfähigkeit eingeschränkt wird.
Das ist wahrscheinlich kein riesiges Problem, aber wäre ein sehr schönes Beispiel für Interessenskonflikte.
Die einzigen Daten die mich überzeugen können, so sehr ich deine Expertise zu schätzen weiß, sind geheim.
Okay war neugierig. Der "Yield" und der "parametric yield" sind die Begriffe über die wir hier reden und die sind Industriegeheimnisse. Ist also ein "trust me bro" von TSMC. Weiß nicht ob ich da zu 100% blind darauf vertrauen würde.
I think it is still too hard. The hurdles, safety and difficulty prevent humans adequately for the moment.
Yudkowsky's whole argument is that it seems like it is nearly impossible to do it right the first time and that there is a good possibility we don't get two tries. Not because it is malevolent, but because it is really hard to put into numbers what we care about.
I agree with both, this guy and Yudkowsky.
The first half of the video is great. Completely agree, stop the harm now. Stop the CEOs, stop the naive techno-optimists.
The second half has a lot of strawmen. Let me give you an example:
He takes the 2027 reports Solar Powered robot machines maintenance crew (which is very futuristic and far fetched) and in the next statement taktes the "a blade of grass is a self replicating factory" and acts like Yudkowsky says the grass maintains the machines.
Yudkowsky's argument is that if AI wanted to kill us it would'nt need the robots. Biology has perfected self replication for a long time. Make some humans do your CRISPR gene tech for you (thanks gig economy). Engineering a stronger moscito with a neuro toxin is not something I understand as impossible. Our biology is very capable of folding all kinds of proteins if given the correct instructions. You don't need complex robot arms to (accidentally) kill humans. Our society is extremely fragile in thousands of ways.
If you manage to kill specific bugs we die, if you accelerate algee growth a lot we die. If you get enough carcoinogens into the food chain we die. If you engineer super resistant bacteria we die. If you rapidly deplete the ozon layer we die, if you disable the earth's magnetic field we die.
The point is: If you build something that is smarter than you (in any way) and that has some form of agency, it will outsmart you and beat you. Don't build it.
That's precisely my point. You can't fight injustice with injustice.
Fuck the USSR. But not on the back of and with the blood of Afghani people.
I can't believe anyone here read and understood this paragraph and then celebrates this. You guys do know what the mujahedeen went on to do, right? Right? Not even talking about instrumentalising tens of thousands of young humans to organise terror in a foreign country. Just the blowback should be enough to deter anyone from repeating that shit. That fucker just said: "yeah fuck the women in Afghanistan, at least in the 70s we showed the commies who's boss"
And don't come at me with the "Just do the game-theory zero sum game without the externalities then."
e: typo
Putin ist ein Verbrecher und ein Lügner, das war er schon vor der Ukraine in Tschetschenien.
Wenn ich den blanken Zynismus hier lese dass jede Idee von Diplomatie naiv ist, dann hoffe ich dass ihr wisst was das bedeutet.
Ich verteidige auch nicht die zahnlose Diplomatie die betrieben wurde (um russische Rohstoffe günstig für den industriellen Aufbau Deutschlands und Österreichs zu verwenden). Bei aller Kritik die die Frau verdient, hat Merkel hier recht und wenn die einzige Antwort Nihilismus ist haben wir schon verloren.
Ich war beim Militär (Österreich hat noch Wehrpflicht), wenn es keine diplomatische Lösung gibt wird mein Arsch an der Grenze zerballert. Wenn ihr denkt dass eure Krankheit XY euch vom Dienst befreit wenn es eng wird, dann hat die Geschichte schlechte Nachrichten für euch.
Ist das ein kantiger LARP Post als Fritz oder ein misslungenes Meme? Mehr Nachrichten um 21:30.
Aid and development are (mostly) not what one would expect under the name. Some of it is great - catastrophe relieve for example.
More than 90% of it is loans and the conditions and business structures under which these are distributed is at best "soft power" and at worst just straight imperialism. Keep some of the good parts, but yeah - slash the rest.
Ich hab mal gehört dass Zeugen Jehovas absichtlich so einen Stand betreiben wo sie zumeist angepöbelt werden. Die Konvertierungsrate ist nicht sonderlich hoch, aber die negative Erfahrung schweißt die Zeugen mehr zusammen. Ein defensives Meme, kein offensives.
Vllt ist das bei Redpill/Alpha/Pickup... Kreisen was ähnliches. Das negative Feedback ist das Ziel. Wenn die gute Beziehugnstipps geben würden dann würde sich die Gemeinschaft selbst zerstören, dann hätten wir das Problem nicht.
War nur ein Beispiel von einer anderen Form von Unterdrückung, für Menschen die wirklich glauben mit dem Abschaffen des Gesetzes ist alles gegessen. Ich finds hin und wieder leichter so etwas zu erkennen wenn man "außerhalb" steht, wenn man nicht direkt involviert ist.
"Too often we judge other groups by their worst examples, while judging ourselves by our best intentions" - George W. Bush 2016. Der war nicht der erste der das gesagt hat, aber hin und wieder können wir sogar von Georgy lernen.
Ich war letztes jahr in Indien auf einer Hochzeit. Ich habe die Sitten nicht ganz durchblickt, aber mir wurde gesagt ich soll jetzt dem Kerl der das Pferd herumführt Trinkgeld zustecken. Der Bankomat spuckt dort nur 500 Rupien Scheine aus (ca 5€) - die größten Scheine die dort existieren. Der Mann hatte sichtlich Panik als ich ihm den Schein geben wollte, hat sich umgesehen und wurde nervös.
Später habe ich erfahren dass das eine Kasten Sache war, der durfte den von mir nicht annehmen. Das Kastensystem wurde offiziell 1948 abgeschafft. Wir müssen Feminismus leben.
Yeah, I am there with you. There is a book ont the topic thatI like (altough I disagree on many things with the author) called "the way is shut" by benjamin studebaker. It is way too expensive, but I heard of some pdfs somewhere...
The far-right governments are not being voted in based on material shortcomings produced through immigration or refugees.
There are material shortcomings based largely on wealth inequality and the immigrants/refugees are a scapegoat.
If we start throwing others under the bus to appease the far right we lose by default. We must demand and provide a life of dignity for everyone, this is a distribtuion issue.
My point is that there are sanctions that would hit them and we must pass those. The moment we try to justify the preventable mass deportation and mass starvation of others we lose to gametheory.
So starved and (militarily) uneducated people should revolt against a dictatorship with fighter jets and drones? Or are you starving them enough so that they won't pay the military or mercenaries? What kind of revolutionary nostalgia is this, we aren't living in the 1800s any more.
The government that uses these humans as pawns in their power game will not care for them.
You cannot win a power game by racing to the bottom with the opponent. The sanctions will hit the devasted people living in a brutal dictatorship and the only way to directly hit the perpetrators is by establishing rules on the movement of capital and that will be prevented by a multitude of moneyed interests.
"Just send them back" is the naive approach.
https://en.m.wikipedia.org/wiki/Dune:_The_Butlerian_Jihad
Basiert und Blechdosenmordend.
Ich zweifle nicht daran dass es schwierig ist, ich bin skeptisch ob - im Zuge des Profitinteresse eines Unternehmens - ein Teil der Chips über die Notwendigkeit hinaus "gedrosselt" werden und damit künstlich die Leistungsfähigkeit eingeschränkt wird. Das ist wahrscheinlich kein riesiges Problem, aber wäre ein sehr schönes Beispiel für Interessenskonflikte.
Die einzigen Daten die mich überzeugen können, so sehr ich deine Expertise zu schätzen weiß, sind geheim.
Okay war neugierig. Der "Yield" und der "parametric yield" sind die Begriffe über die wir hier reden und die sind Industriegeheimnisse. Ist also ein "trust me bro" von TSMC. Weiß nicht ob ich da zu 100% blind darauf vertrauen würde.