{"id":17391,"date":"2017-08-30T10:56:41","date_gmt":"2017-08-30T08:56:41","guid":{"rendered":"http:\/\/blog.zeit.de\/teilchen\/?p=17391"},"modified":"2017-08-30T11:28:32","modified_gmt":"2017-08-30T09:28:32","slug":"kuenstliche-intelligenz-algorithmen-google","status":"publish","type":"post","link":"https:\/\/blog.zeit.de\/teilchen\/2017\/08\/30\/kuenstliche-intelligenz-algorithmen-google\/","title":{"rendered":"Die Kollateralsch\u00e4den der k\u00fcnstlichen Intelligenz"},"content":{"rendered":"\n<div class=\"embed-wrapper embed-wrapper--blocked js-embed-consent\" data-method=\"embed\">\n<script class=\"raw__source\" type=\"text\/template\"><iframe loading=\"lazy\" title=\"3 types of bias in AI | Machine learning\" width=\"640\" height=\"360\" src=\"https:\/\/www.youtube-nocookie.com\/embed\/59bMh59JQDo?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/script>\n<div class=\"embed-wrapper__inner\">\n<div class=\"embed-wrapper__text\">\n<h3>Empfohlener redaktioneller Inhalt<\/h3>\n<p data-replace=\"no\">An dieser Stelle finden Sie externen Inhalt, der den Artikel erg\u00e4nzt. Sie k\u00f6nnen sich externe Inhalte mit einem Klick anzeigen lassen und wieder ausblenden.<noscript>Bitte aktivieren Sie JavaScript damit Sie diesen Inhalt anzeigen k\u00f6nnen.<\/noscript><\/p>\n<\/div>\n<div class=\"embed-consent\">\n<label class=\"embed-consent__toggle\">\n<input class=\"js-embed-consent__toggle\" type=\"checkbox\" autocomplete=\"off\">\n<span><\/span>\nExterner Inhalt\n<\/label>\n<a href=\"https:\/\/www.zeit.de\/hilfe\/datenschutz\" target=\"_blank\" class=\"embed-consent__datalink-when-active\">Datenschutzerkl\u00e4rung<\/a>\n<\/div>\n<div class=\"embed-wrapper__footer\">\n<p data-replace=\"no\">\nIch bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit k\u00f6nnen personenbezogene Daten an Drittplattformen \u00fcbermittelt werden. <a href=\"https:\/\/www.zeit.de\/hilfe\/datenschutz\" target=\"_blank\">Mehr dazu in unserer Datenschutzerkl\u00e4rung.<\/a>\n<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p>2011 fand Google es sinnvoller, T\u00fcrken zu vernichten als Gurken. Zumindest schien es so, als die Suchmaschine auf die Anfrage, &#8222;Wie viele Gurken wurden in den letzten Tagen vernichtet?&#8220;, antwortete: Meinten Sie: &#8222;Wie viele T\u00fcrken wurden in den letzten Tagen vernichtet?&#8220; Eigentlich will Googles k\u00fcnstliche Intelligenz (KI) nur helfen, aber manchmal ist das Gegenteil von gut eben gut gemeint. Deshalb erkl\u00e4rt der Konzern jetzt in einem Video, warum Algorithmen mitunter zu sexistischen oder rassistischen Schl\u00fcssen kommen. Alles beginnt mit einem Gedankenspiel: Denken Sie bitte an Schuhe, bevor Sie weiterlesen.<!--more--><\/p>\n<p>Na? Haben Sie sich Sneaker vorgestellt, High-Heels oder Sandalen? Und was vermuten Sie, woran denkt Google, wenn Sie &#8222;Schuhe&#8220; eintippen? Wir verraten\u2019s Ihnen: <a href=\"https:\/\/www.google.de\/search?q=schuhe&amp;client=firefox-b&amp;source=lnms&amp;tbm=isch&amp;sa=X&amp;ved=0ahUKEwi_446-wfzVAhUDEJoKHXMVBysQ_AUICygC&amp;biw=1827&amp;bih=990\" target=\"_blank\" rel=\"noopener\">Auf den ersten Blick<\/a> an 14 Sneaker, sieben High-Heels, vier Halbschuhe, zwei Ankle Boots und null Sandalen.<\/p>\n<p>Hegt die Suchmaschine eine pers\u00f6nliche Abneigung gegen Sandalen? Nat\u00fcrlich nicht. Es gibt auch keinen Informatiker mit Birkenstockphobie, der dem Algorithmus befohlen hat, Sandalen absichtlich zu diskriminieren. Nun k\u00e4men die wenigsten auf die Idee, Google des Sandalismus zu beschuldigen. Aber was, wenn zum Beispiel das Suchwort &#8222;Gorilla&#8220; ein Selfie einer dunkelh\u00e4utigen Frau zutage f\u00f6rdert? Ist <a href=\"http:\/\/www.zeit.de\/digital\/internet\/2015-07\/google-fotos-algorithmus-rassismus\" target=\"_blank\" rel=\"noopener\">#GorillaGate<\/a> aus dem Jahr 2015 ein Fall von Rassismus?<\/p>\n<p>Jein. Googles k\u00fcnstliche Intelligenz lernt selbst, welche Bilder zu welchen Suchbegriffen passen und liegt damit oft richtig. Manchmal aber eben richtig daneben. Schuld sind auch irgendwie wir Menschen. K\u00fcnstliche Intelligenz erkennt Muster in Datenmassen, aber die k\u00f6nnen verzerrt sein \u2014 je nachdem, wie Menschen mit der Maschine interagieren, welche Bilder sie mit bestimmten Worten verkn\u00fcpfen oder mit welchen Fotos sie eine Gesichtserkennungssoftware f\u00fcttern.<\/p>\n<p>Im Video bewirbt Google zudem noch seine Ma\u00dfnahmen gegen die Kollateralsch\u00e4den der k\u00fcnstlichen Intelligenz. Mit ein paar Klicks k\u00f6nnen Nutzer Fake News und unangemessene Vervollst\u00e4ndigungen kennzeichnen. Ganz ohne menschlichen Kompass funktioniert k\u00fcnstliche Intelligenz eben doch noch nicht.<\/p>\n<ul>\n<li><em>Weitere Netzfundst\u00fccke finden Sie im <a href=\"https:\/\/blog.zeit.de\/teilchen\/\" target=\"_blank\" rel=\"noopener\">Teilchen-Blog<\/a>.<\/em><\/li>\n<li><em>Lust auf ein weiteres Gedankenspiel?<a href=\"http:\/\/www.zeit.de\/digital\/2017-08\/kuenstliche-intelligenz-robotik-philosophie-5vor8\" target=\"_blank\" rel=\"noopener\"> Was passiert eigentlich, wenn Roboter verr\u00fcckt werden?<\/a><\/em><\/li>\n<li><em>Firmen wie Alphabet, Facebook oder IBM treiben die Entwicklung von k\u00fcnstlicher Intelligenz rasant voran. <a href=\"http:\/\/www.zeit.de\/2017\/24\/kuenstliche-intelligenz-digitalisierung-machine-learning-mensch\" target=\"_blank\" rel=\"noopener\">Warum das eine Bedrohung f\u00fcr unser selbstbestimmtes Leben ist.<\/a><\/em><\/li>\n<li><em>Ganz so einfach wie in diesem Video erkl\u00e4rt, ist das mit der k\u00fcnstlichen Intelligenz doch nicht. Auch f\u00fcr Forscher ist das &#8222;Gehirn&#8220; der KI oft eine <\/em>black box<em>. <a href=\"http:\/\/www.zeit.de\/digital\/internet\/2017-03\/kuenstliche-intelligenz-black-box-transparenz-fraunhofer-hhi-darpa\" target=\"_blank\" rel=\"noopener\">Das muss sich \u00e4ndern.<\/a><\/em><\/li>\n<li><em>Mehr zum Thema k\u00fcnstliche Intelligenz finden Sie auf der <a href=\"http:\/\/www.zeit.de\/thema\/kuenstliche-intelligenz\" target=\"_blank\" rel=\"noopener\">Themenseite<\/a>.<\/em><\/li>\n<\/ul>\n","protected":false},"excerpt":{"rendered":"<p>Empfohlener redaktioneller Inhalt An dieser Stelle finden Sie externen Inhalt, der den Artikel erg\u00e4nzt. Sie k\u00f6nnen sich externe Inhalte mit einem Klick anzeigen lassen [\u2026]<\/p>\n","protected":false},"author":706,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[28],"tags":[],"class_list":["post-17391","post","type-post","status-publish","format-standard","hentry","category-video"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v21.0 - https:\/\/yoast.com\/wordpress\/plugins\/seo\/ -->\n<title>K\u00fcnstliche Intelligenz und ihre Kollateralsch\u00e4den<\/title>\n<meta name=\"description\" content=\"Wenn k\u00fcnstliche Intelligenz das Suchwort &quot;Gorilla&quot; mit dem Selfie einer dunkelh\u00e4utigen Frau kombiniert, haben wir ein Problem.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/blog.zeit.de\/teilchen\/2017\/08\/30\/kuenstliche-intelligenz-algorithmen-google\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"K\u00fcnstliche Intelligenz und ihre Kollateralsch\u00e4den\" \/>\n<meta property=\"og:description\" content=\"Wenn k\u00fcnstliche Intelligenz das Suchwort &quot;Gorilla&quot; mit dem Selfie einer dunkelh\u00e4utigen Frau kombiniert, haben wir ein Problem.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/blog.zeit.de\/teilchen\/2017\/08\/30\/kuenstliche-intelligenz-algorithmen-google\/\" \/>\n<meta property=\"og:site_name\" content=\"Teilchen\" \/>\n<meta property=\"article:published_time\" content=\"2017-08-30T08:56:41+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2017-08-30T09:28:32+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/blog.zeit.de\/teilchen\/files\/2015\/03\/teilchen-facebook-fallback.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1200\" \/>\n\t<meta property=\"og:image:height\" content=\"900\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Johanna Haag\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@zeitonline\" \/>\n<meta name=\"twitter:site\" content=\"@zeitonline\" \/>\n<meta name=\"twitter:label1\" content=\"Geschrieben von\" \/>\n\t<meta name=\"twitter:data1\" content=\"Johanna Haag\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"2\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/blog.zeit.de\/teilchen\/2017\/08\/30\/kuenstliche-intelligenz-algorithmen-google\/\",\"url\":\"https:\/\/blog.zeit.de\/teilchen\/2017\/08\/30\/kuenstliche-intelligenz-algorithmen-google\/\",\"name\":\"K\u00fcnstliche Intelligenz und ihre Kollateralsch\u00e4den\",\"isPartOf\":{\"@id\":\"https:\/\/blog.zeit.de\/teilchen\/#website\"},\"datePublished\":\"2017-08-30T08:56:41+00:00\",\"dateModified\":\"2017-08-30T09:28:32+00:00\",\"author\":{\"@id\":\"https:\/\/blog.zeit.de\/teilchen\/#\/schema\/person\/a115ca9a5ff69cf6eee895bf27f545e5\"},\"description\":\"Wenn k\u00fcnstliche Intelligenz das Suchwort \\\"Gorilla\\\" mit dem Selfie einer dunkelh\u00e4utigen Frau kombiniert, haben wir ein Problem.\",\"breadcrumb\":{\"@id\":\"https:\/\/blog.zeit.de\/teilchen\/2017\/08\/30\/kuenstliche-intelligenz-algorithmen-google\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/blog.zeit.de\/teilchen\/2017\/08\/30\/kuenstliche-intelligenz-algorithmen-google\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/blog.zeit.de\/teilchen\/2017\/08\/30\/kuenstliche-intelligenz-algorithmen-google\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Startseite\",\"item\":\"https:\/\/blog.zeit.de\/teilchen\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Die Kollateralsch\u00e4den der k\u00fcnstlichen Intelligenz\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/blog.zeit.de\/teilchen\/#website\",\"url\":\"https:\/\/blog.zeit.de\/teilchen\/\",\"name\":\"Teilchen\",\"description\":\"Im Netz verstecken sich kleine Sch\u00e4tze - ZEIT ONLINE findet sie.\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/blog.zeit.de\/teilchen\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"de\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/blog.zeit.de\/teilchen\/#\/schema\/person\/a115ca9a5ff69cf6eee895bf27f545e5\",\"name\":\"Johanna Haag\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\/\/blog.zeit.de\/teilchen\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/86a73622bcfc5822876f2191f5711437a3607d30e47674e0b5dd97f5226ea959?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/86a73622bcfc5822876f2191f5711437a3607d30e47674e0b5dd97f5226ea959?s=96&d=mm&r=g\",\"caption\":\"Johanna Haag\"},\"description\":\"Beim Wei\u00dfenburger Tagblatt, danach f\u00fcr den Mannheimer Morgen \u00fcber Kleinstadt- und Studentenleben geschrieben. Nebenbei Medien- und Kommunikationswissenschaft studiert. Jetzt in Paris auf dem Weg zum Master in Culture et communication mit Zwischenstopp bei Zeit Campus Online.\",\"url\":\"https:\/\/blog.zeit.de\/teilchen\/author\/jhaag\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"K\u00fcnstliche Intelligenz und ihre Kollateralsch\u00e4den","description":"Wenn k\u00fcnstliche Intelligenz das Suchwort \"Gorilla\" mit dem Selfie einer dunkelh\u00e4utigen Frau kombiniert, haben wir ein Problem.","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/blog.zeit.de\/teilchen\/2017\/08\/30\/kuenstliche-intelligenz-algorithmen-google\/","og_locale":"de_DE","og_type":"article","og_title":"K\u00fcnstliche Intelligenz und ihre Kollateralsch\u00e4den","og_description":"Wenn k\u00fcnstliche Intelligenz das Suchwort \"Gorilla\" mit dem Selfie einer dunkelh\u00e4utigen Frau kombiniert, haben wir ein Problem.","og_url":"https:\/\/blog.zeit.de\/teilchen\/2017\/08\/30\/kuenstliche-intelligenz-algorithmen-google\/","og_site_name":"Teilchen","article_published_time":"2017-08-30T08:56:41+00:00","article_modified_time":"2017-08-30T09:28:32+00:00","og_image":[{"width":1200,"height":900,"url":"https:\/\/blog.zeit.de\/teilchen\/files\/2015\/03\/teilchen-facebook-fallback.jpg","type":"image\/jpeg"}],"author":"Johanna Haag","twitter_card":"summary_large_image","twitter_creator":"@zeitonline","twitter_site":"@zeitonline","twitter_misc":{"Geschrieben von":"Johanna Haag","Gesch\u00e4tzte Lesezeit":"2\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/blog.zeit.de\/teilchen\/2017\/08\/30\/kuenstliche-intelligenz-algorithmen-google\/","url":"https:\/\/blog.zeit.de\/teilchen\/2017\/08\/30\/kuenstliche-intelligenz-algorithmen-google\/","name":"K\u00fcnstliche Intelligenz und ihre Kollateralsch\u00e4den","isPartOf":{"@id":"https:\/\/blog.zeit.de\/teilchen\/#website"},"datePublished":"2017-08-30T08:56:41+00:00","dateModified":"2017-08-30T09:28:32+00:00","author":{"@id":"https:\/\/blog.zeit.de\/teilchen\/#\/schema\/person\/a115ca9a5ff69cf6eee895bf27f545e5"},"description":"Wenn k\u00fcnstliche Intelligenz das Suchwort \"Gorilla\" mit dem Selfie einer dunkelh\u00e4utigen Frau kombiniert, haben wir ein Problem.","breadcrumb":{"@id":"https:\/\/blog.zeit.de\/teilchen\/2017\/08\/30\/kuenstliche-intelligenz-algorithmen-google\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/blog.zeit.de\/teilchen\/2017\/08\/30\/kuenstliche-intelligenz-algorithmen-google\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/blog.zeit.de\/teilchen\/2017\/08\/30\/kuenstliche-intelligenz-algorithmen-google\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Startseite","item":"https:\/\/blog.zeit.de\/teilchen\/"},{"@type":"ListItem","position":2,"name":"Die Kollateralsch\u00e4den der k\u00fcnstlichen Intelligenz"}]},{"@type":"WebSite","@id":"https:\/\/blog.zeit.de\/teilchen\/#website","url":"https:\/\/blog.zeit.de\/teilchen\/","name":"Teilchen","description":"Im Netz verstecken sich kleine Sch\u00e4tze - ZEIT ONLINE findet sie.","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/blog.zeit.de\/teilchen\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"de"},{"@type":"Person","@id":"https:\/\/blog.zeit.de\/teilchen\/#\/schema\/person\/a115ca9a5ff69cf6eee895bf27f545e5","name":"Johanna Haag","image":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/blog.zeit.de\/teilchen\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/86a73622bcfc5822876f2191f5711437a3607d30e47674e0b5dd97f5226ea959?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/86a73622bcfc5822876f2191f5711437a3607d30e47674e0b5dd97f5226ea959?s=96&d=mm&r=g","caption":"Johanna Haag"},"description":"Beim Wei\u00dfenburger Tagblatt, danach f\u00fcr den Mannheimer Morgen \u00fcber Kleinstadt- und Studentenleben geschrieben. Nebenbei Medien- und Kommunikationswissenschaft studiert. Jetzt in Paris auf dem Weg zum Master in Culture et communication mit Zwischenstopp bei Zeit Campus Online.","url":"https:\/\/blog.zeit.de\/teilchen\/author\/jhaag\/"}]}},"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/blog.zeit.de\/teilchen\/wp-json\/wp\/v2\/posts\/17391","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.zeit.de\/teilchen\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.zeit.de\/teilchen\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.zeit.de\/teilchen\/wp-json\/wp\/v2\/users\/706"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.zeit.de\/teilchen\/wp-json\/wp\/v2\/comments?post=17391"}],"version-history":[{"count":17,"href":"https:\/\/blog.zeit.de\/teilchen\/wp-json\/wp\/v2\/posts\/17391\/revisions"}],"predecessor-version":[{"id":17413,"href":"https:\/\/blog.zeit.de\/teilchen\/wp-json\/wp\/v2\/posts\/17391\/revisions\/17413"}],"wp:attachment":[{"href":"https:\/\/blog.zeit.de\/teilchen\/wp-json\/wp\/v2\/media?parent=17391"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.zeit.de\/teilchen\/wp-json\/wp\/v2\/categories?post=17391"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.zeit.de\/teilchen\/wp-json\/wp\/v2\/tags?post=17391"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}