The Coming Wave

Was ihr wissen solltet, die Autoren sind mittendrin in der Entwicklung von KI. Mustafa war CEO bei DeepMind, welches inzwischen von Google aufgekauft worden ist. Von daher sind sie Insider.
Ich war einerseits fasziniert, andererseits erschrocken über die kommende Welle. Damit ist eine neue Phase der Industrialisierung gemeint. Die Entwicklung von KI und Biotechnologie. Mich hat erschrocken, dass es für ein paar tausend Dollar schon Biotech-Baukästen gibt. So wie ich früher mit Chemie-Baukästen herumexperimentiert habe (man, hat das manchmal gestunken, explodiert ist leider nix, oder zum Glück), können Kinder bald mit Biotech herumexperimentieren. Oder, schlimmer, Terroristinnen. Und können eigene Viren bauen. (Schreckliche Idee, die aber wohl leider einige Leute haben, die eine üble Vorstellung von „Weltveränderung“ haben.)
An vielen Beispielen wird in dem Buch aufgezeigt, wie Neuerungen oder Erfindungen das Leben verändert haben. Z.B. automatisierte Webstühle (die zur Folge eine schlimme, menschenverachtende Industrie hatten, laut den Aussagen in dem Buch, wurden Kinder, die nicht genug Leistung erbrachten, mit Gewichten ausgestattet oder an der Decke aufgehangen - das will ich aber noch mal nachrecherchieren. Wenn das wirklich stimmt, echt schlimm) oder der einfache Steigbügel für Pferde, der z.B. dazu führte, dass in einem Kampf Reiterinnen nicht durch die Wucht ihres Hiebes mit dem Schwert oder durch den Aufprall einer Lanze gleich vom Pferd gefallen sind, sondern auf dem Pferd sitzen bleiben konnte. (Ich Nerd dachte immer, Steigbügel dienten dazu besser auf ein Pferd aufzusteigen.) Das führte zu der neuen Militäreinheit Kavallerie, und die führte dazu, dass sich Kriegsführung veränderte, und dies führte dazu, dass … (End of Spoilering).
Spannend ist, wie sich KI entwickelt hat, wie sich KI weiter entwickeln wird, und wie wir trotzdem als Menschen eine Chance haben (zumindest eine kleine, wenn wir nicht weiter rumpennen und rumdaddeln), dass die Zukunft mit dieser Technologie super wird. Grundsätzlich erst einmal für euch die Info: Wir sind nicht mehr allein auf diesem Planeten, die aus Informationen Muster erkennen und daraus Schlüsse ziehen können.
Hallo, KI. Nett, dass du dazu gekommen bist. Vielleicht hast du ja auch die besseren Ideen, wie wir aus dem Klimaschlamassel rauskommen.

AI is both valuable and dangerous precisely because it’s an extension of our best and worst selves. […] Ask it to suggest ways of knocking out the freshwater supply, or crashing the stock market, or triggering a nuclear war, or designing the ultimate virus, and it will. Soon.

Despite their ominous reflections, I like to read what artificial intelligence (AI) experts have to say on the future of technology (and therefore: society). In [b:Superintelligence|20527133|Superintelligence Paths, Dangers, Strategies|Nick Bostrom|https://i.gr-assets.com/images/S/compressed.photo.goodreads.com/books/1400884046l/20527133.SY75.jpg|37286000] (2014) Nick Bostrom put the focus on the creation of superintelligence and the possibility of a singularity. Ironically, this is what Mustafa Suleyman warns against. The co-founder of DeepMind prefers to look at gradual changes and nearer-term milestones rather than trying to read crystal balls. He also takes a broader perspective on technology by defining the ‘coming wave’ as an ‘emerging cluster of related technologies centered on AI and synthetic biology whose transformative applications will both empower humankind and present unprecedented risks’.Both writers emphasise the importance of containing technology and acknowledge the difficulty to do so. Suleyman explains how proliferation has become default; as technologies get cheaper and spread faster, so do the risks. Nowadays, anyone can get their hands on AI weapons or create disinformation or deepfakes. The coming wave sets the political agenda and threatens nation states and the geopolitical order as we know it. Among the perils are cyberattacks, automated wars, engineered pandemics and, more generally, a world subject to inexplicable and yet seemingly omnipotent forces.At the same time, Suleyman reminds us that we cannot do without the coming wave: stagnation is a danger in itself. As an example, he mentions the expected declining world population, even in countries like China, Mexico and Turkey. Without the new technologies, it will be virtually impossible to maintain the status quo. This poses a dilemma, although Suleyman is also quick to admit that the coming wave is inevitable. In theory, contained technology should be the way out, provided the approach is global. (Suleyman compares this debate to climate change.) In his final chapter, he presents ten steps to aspire this goal. I was particularly interested in his advocacy for public engagement (something I picked up from [b:Mission Economy|55742686|Mission Economy A Moonshot Guide to Changing Capitalism|Mariana Mazzucato|https://i.gr-assets.com/images/S/compressed.photo.goodreads.com/books/1603166951l/55742686.SY75.jpg|73121548]) and for international treaties.In the end, I appreciated Suleyman’s work better than Bostrom’s as he describes the risks more accurately and provides good examples (notably on large language models). One must bear in mind though that his book was published almost a decade later, which is an eternity in terms of the coming wave. Moreover, as a layman, I am not best qualified to assess the presented arguments. They do however prompt thought.The next book on my list is [b:Your Face Belongs to Us|75591715|Your Face Belongs to Us|Kashmir Hill|https://i.gr-assets.com/images/S/compressed.photo.goodreads.com/books/1686179432l/75591715.SY75.jpg|100481458] by Kashmir Hill. If you are interested, I can also recommend Cathy O’Neill’s [b:Weapons of Math Destruction|28186015|Weapons of Math Destruction How Big Data Increases Inequality and Threatens Democracy|Cathy O'Neil|https://i.gr-assets.com/images/S/compressed.photo.goodreads.com/books/1456091964l/28186015.SX50.jpg|48207762].