The Alignment Problem: Machine Learning and Human Values

The Alignment Problem: Machine Learning and Human Values

Brian Christian

Dieses Buch ist bisher nicht auf Deutsch erschienen.

The Alignment Problem stand auf der Shortlist für den Los Angeles Times Book Prize. Die heutigen, mit Daten trainierten Systeme des „maschinellen Lernens“ sind so leistungsfähig, dass wir sie eingeladen haben, für uns zu sehen und zu hören und in unserem Namen Entscheidungen zu treffen. Doch die Alarmglocken schrillen. In den vergangenen Jahren ist mit den Fortschritten des maschinellen Lernens die Sorge sprunghaft gewachsen. Wenn die Systeme, die wir zu unterrichten versuchen, am Ende nicht das tun, was wir wollen oder erwarten, entstehen ethische und möglicherweise existenzielle Risiken. Forschende nennen dies das Alignment-Problem. Systeme sortieren Lebensläufe aus, bis wir Jahre später feststellen, dass ihnen geschlechtsspezifische Vorurteile innewohnen. Algorithmen entscheiden über Kaution und Bewährung und scheinen schwarze und weiße Angeklagte unterschiedlich zu bewerten. Wir können nicht länger davon ausgehen, dass unser Hypothekenantrag oder gar unsere medizinischen Befunde von menschlichen Augen begutachtet werden. Und während autonome Fahrzeuge unsere Straßen mit uns teilen, legen wir unser Leben zunehmend in ihre Hände. Die mathematischen und rechnergestützten Modelle hinter diesen Veränderungen reichen in ihrer Komplexität von etwas, das in eine Tabellenkalkulation passt, bis zu einem komplexen System, das man glaubhaft als „künstliche Intelligenz“ bezeichnen könnte. Sie ersetzen nach und nach sowohl menschliches Urteilsvermögen als auch explizit programmierte Software. In Brian Christians fesselnder Darstellung begegnen wir den „Ersthelfern“ des Alignment-Problems und erfahren von ihrem ehrgeizigen Plan, es zu lösen, bevor wir das Steuer vollständig aus der Hand geben. In einer meisterhaften Verbindung von Geschichte und Reportage vor Ort zeichnet Christian das explosionsartige Wachstum des maschinellen Lernens nach und vermisst dessen gegenwärtige, weitläufige Grenzgebiete. Die Leserinnen und Leser begegnen einer Disziplin, die inmitten berauschender und mitunter erschreckender Fortschritte ihren Stand findet. Ob ihr – und uns – die Lösung des Alignment-Problems gelingt oder nicht, wird zu einer prägenden Geschichte der Menschheit werden. The Alignment Problem ist eine schonungslose Auseinandersetzung mit den Vorurteilen und blinden Flecken der Menschheit, mit unseren unausgesprochenen Annahmen und oft widersprüchlichen Zielen. Dieses brillant interdisziplinäre Werk wirft einen kritischen Blick nicht nur auf unsere Technologie, sondern auch auf unsere Kultur und findet eine Geschichte, die abwechselnd erschütternd und hoffnungsvoll ist.

Automatisch aus dem Englischen übersetzt (KI).