BookWyrm

Bharath M. Palavalli

Once again lack of representation and #bias in #wikipedia comes through, this time as authors compile a database of notable people: https://www.nature.com/articles/s41597-022-01369-4. With so much information now available online in multiple languages, especially in audio and video formats now, I wonder if anyone is trying to figure out ways of incorporating it into something similar or akin to Wikipedia? #digitalhumanies #openaccess #globalsouth

Benjamin Carr, Ph.D. 👨🏻‍💻🧬

#OpenAI’s #GPT Is #Recruiter’s Dream Tool. Tests Show There’s #RacialBias
Asked to rank #resumes 1,000 times, GPT favored names from some #demographics more than others, it would fail benchmarks used to assess #jobdiscrimination against protected groups.This simple #HR workflow, isolated names as source of #bias in GPT that could affect #hiring. Interviews and experiment show using #generativeAI for #recruiting/hiring pose serious risk: automated #discrimination at scale
https://www.bloomberg.com/graphics/2024-openai-gpt-hiring-racial-discrimination/?accessToken=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzb3VyY2UiOiJTdWJzY3JpYmVyR2lmdGVkQXJ0aWNsZSIsImlhdCI6MTcwOTg1NjE0OCwiZXhwIjoxNzEwNDYwOTQ4LCJhcnRpY2xlSWQiOiJTQTA1Q1FUMEFGQjQwMCIsImJjb25uZWN0SWQiOiI2NDU1MEM3NkRFMkU0QkM1OEI0OTI5QjBDQkIzRDlCRCJ9.MdkSGC3HMwwUYtltWq6WxWg3vULNeCTJcjacB-DNi8k

David Weinberger

Research showing LLMs' (chat AI) covert racism, triggered by dialects, is even worse than their explicit racism. An example of when you can be shocked but not surprised. via Gary Marcus https://garymarcus.substack.com/p/covert-racism-in-llms #AI #Bias #chatAI #LLM

Julien Deswaef quoted Thinking, fast and slow by Daniel Kahneman

Daniel Kahneman: Thinking, fast and slow (Paperback, 2012, Penguin Group)

Kahneman introduces two modes of thought - system 1, fast and intuitive, and system 2, …

Sustein and a collaborator, the jurist Timor Kuran, invented a name for the mechanism through which biases flow into policy: the availability cascade.

[...]

An availability cascade is a self-sustaining chain of events, which may start from media reports of a relatively minor event and lead up to public panic and large-scale government action.

— Thinking, fast and slow by Daniel Kahneman (Page 142)

#Bias

Dr. Brad Rosenheim

What is it like to be a Black woman in a USian business? Here is a glimpse.

Last week my spouse came home stressed because none of the white men above her were listening. She was telling them that they were on the verge of getting overexposed for selling wildfire insurance in California. She said they needed to close sales of policies in several zip codes, and they said "Well, then we cannot make a profit!" There was no action even though she has a Ph.D. and runs complex numerical models for her company. One salesman, who claimed to be a numbers guy, said she was threatening to close down sales in 50% of the state; she was suggesting 16% of the zip codes be closed, and they were not generally populous ones. She took a lot of flack, and compromised to say that instead of closing them, they could …

What is it like to be a Black woman in a USian business? Here is a glimpse.

Last week my spouse came home stressed because none of the white men above her were listening. She was telling them that they were on the verge of getting overexposed for selling wildfire insurance in California. She said they needed to close sales of policies in several zip codes, and they said "Well, then we cannot make a profit!" There was no action even though she has a Ph.D. and runs complex numerical models for her company. One salesman, who claimed to be a numbers guy, said she was threatening to close down sales in 50% of the state; she was suggesting 16% of the zip codes be closed, and they were not generally populous ones. She took a lot of flack, and compromised to say that instead of closing them, they could slash sales in them by 75%. No action. Crickets.

Until today. Today, a white man above her is being lauding for saying they they should cut sales by 80% in the same zip codes my spouse suggested. Smh.

Folks, don't be like those people. Don't be that guy. Check your biases!

#Black
#BlackHistoryMonth
#Patriarchy
#Racism
#Bias

Sozialwelten

Der #zentrale #Speicher von #Daten durch #Hyperscaler sei #Bedingung der #Möglichkeit von #Vorausberechnung und #Manipulation der #Bürger, weshalb von #Bedrohung der #Demokratie und #Entmündigung die Rede ist. #Hinweis auf Rashida #Richardson #Dirty #Data, #Bad #Predictions: Der #Bias ist #System.

#Entzug
#Kommunikative #Krise

#FAS, 12.06.2022 S.38 #Feuilleton, Niklas #Maak #Vorabdruck aus #Servermanifest #Architektur der #Aufklärung #Data #Center als #Politikmaschinen

#AWS #Azure #Google

Die Digitalkonzerne sammeln nicht nur die Daten ihrer Nutzer, sie bauen auch die Raffinerien, in denen sie aufbewahrt und ausgewertet werden - und behandeln sie in den dortigen Hochsicherheitsanlagen als ihr Privateigentum. Das ist schon deswegen nicht unproblematisch, weil solche Data Center auch Orte der Vorausberechnung und Manipulation der Bürger sind. Und spätestens wenn man sieht, dass fast alle dieser Firmen ihren Sitz in den Vereinigten Staaten oder in China haben, wird klar, dass nicht nur Europas technologische, sondern auch seine ökonomische und politische Souveränität auf dem Spiel steht.
Die Tatsache, dass Daten der Treibstoff und der größte ökonomische Schatz des digitalen Informationszeitalters sind, steht in einem krassen Gegensatz zur Naivität, mit der normale Bürger aus purer Bequemlichkeit den "Alle akzeptieren"-Button drücken und ihre Daten damit aus der Hand geben. Dabei haben viele Forscher eindrücklich beschrieben, wie aufgrund der Auswertung von Verhaltensdaten Menschen manipuliert werden können, wie Algorithmen rassistische Vorurteile und soziale Ungleichheit verschärfen und helfen, Falschinformationen zu verbreiten. In "Dirty Data, Bad Predictions" beschreibt Rashida Richardson, dass in den Vereinigten Staaten auch Polizeidienststellen, in denen "rassistisch voreingenommene oder anderweitig illegal...

Foto des referenzierten Zeitungsartikels.

Überschrift: "Stürmt diese Festung!"

Unterüberschrift: "Daten sind der größte Schatz der digitalen Gesellschaft. Sie lagern in riesigen Serverfarmen. Was private Konzerne mit ihnen machen, bedroht nicht nur die Umwelt, sondern auch die Demokratie." Von Niklas Maak.

Diverse Markierungen.

Wenn Daten der größte kollektive Schatz einer digitalen Gesellschaft sind - das Gold, das Öl, der Rohstoff des 21. Jahrhunderts, das Grundmaterial für Wirtschaft und Politik - und ihr Besitz der Garant für Demokratie und Transparenz: Müsste man sie dann nicht als Gemeingut behandeln, als Teil der öffentlichen Infrastruktur? Wenn man nicht will, dass die Gesundheitsversorgung der Bürger in Zukunft von Google-Unterfirmen und das Transportwesen von Uber übernommen wird - und die von beiden erzielten enormen Gewinne Richtung Vereinigte Staaten abgezogen werden -, dann braucht es eine Regulierung des bisher wildwestartigen Datenabflusses, und es braucht Institutionen, die die digitale Souveränität Europas (und, ebenfalls wichtig, Afrikas) jenseits von US-amerikanischen und chinesischen Konzernen garantieren können: eigene europäische Techfirmen, mehr Quantencomputer, bessere Algorithmen - und Data Center, die Teil der öffentlichen Infrastruktur wären.

Es wäre die Aufgabe des Staates, jetzt etwas Neues zu bauen, das all die unverständlichen, aber das Leben mehr als alles andere prägenden Technologien sichtbar und verständlich macht: einen Hybridbau aus Data Center, Bibliothek und Museum der Zukunft, eine neue Bildungseinrichtung, in der die ganze Bevölkerung, Schülerinnen und Schüler, Politikerinnen und Politiker lernen können, wie gefährlich das herrschende Geschäftsmodell des Digitalkapitalismus für Demokratie und Selbstbestimmung ist. Auf dieser öffentlichen Serverfarm könnten Schulen für Coding, Ausstellungsräume und Forschungseinrichtungen, auch ein Zentrum für Digitale Souveränität zu finden sein. Auch in kleineren Städten und Ortschaften könnten lokale dezentrale Server zu neuen öffentlichen Orten werden, wie es einst Gemeindesäle, Dorfschulen und Büchereien waren.
Die enorme Hitze, die durch die Kühlung der Daten entsteht, könnte auch hier ganz neue öffentliche - und eben nicht, wie bei The Spark, privat betriebene - Architekturen hervorbringen: Bibliotheken, Sporthallen, Gewächshäuser, Schwimmbäder, ein kollektives Wohnzimmer fürs Dorf, überkuppelte tropische, immergrüne Siedlungen. Eine solche öffentliche Serverfarm wäre in Zeiten des Datenkapitalismus ein ähnliches Symbol der Bürgerfreiheit, wie es einst das Rathaus als Gegengewicht zum Schloss des Feudalherrn war: eine Schatzkammer des Digitalzeitalters, in der Daten als kollektiver Besitz, als "public good", begreifbar werden.

Frederik Borgesius

Colleague Marvin van Bekkum and I published a new pre-print:

'AI, insurance, discrimination and unfair differentiation. An overview and research agenda'

If you spot mistakes or have suggestions, let us know please! :)

https://arxiv.org/abs/2401.11892

#ai #tech #law #insurance #discrimination #bias

Screenshot of Arxiv website where we published the pre-print. Includes the papers abstract, which reads as follows.

'Insurers increasingly use AI. We distinguish two situations in which insurers use AI: (i) data-intensive underwriting, and (ii) behaviour-based insurance. (i) First, insurers can use AI for data analysis to assess risks: data-intensive underwriting. Underwriting is, in short, calculating risks and amending the insurance premium accordingly. (ii) Second, insurers can use AI to monitor the behaviour of consumers in real-time: behaviour-based insurance. For example, some car insurers give a discount if a consumer agrees to being tracked by the insurer and drives safely. While the two trends bring many advantages, they may also have discriminatory effects. This paper focuses on the following question. Which discrimination-related effects may occur if insurers use data-intensive underwriting and behaviour-based insurance? We focus on two types of discrimination-related effects: discrimination and other unfair differentiation. (i) Discrimination harms certain groups who are protected by non-discrimination law, for instance people with certain ethnicities. (ii) Unfair differentiation does not harm groups that are protected by non-discrimination law, but it does seem unfair. We introduce four factors to consider when assessing the fairness of insurance practices. The paper builds on literature from various disciplines including law, philosophy, and computer science.'

lfdi_pressestelle@xn--baw-joa.social

Kann es eine #KI ohne #Diskriminierung geben? Was umfasst die #KI Verordnung, um Herausforderungen wie #Bias und Diskriminierung, automatisierte Entscheidungen sowie Deep Fakes anzugehen? Mehr dazu im Bildungszentrum #BIDIB am Do, 21.2./14h. Vor Ort im und online. https://www.baden-wuerttemberg.datenschutz.de/offene-veranstaltung-2024-004/

Wer möchte, kann sich zur Vorbereitung den Vortrag von Paola Lopez anschauen, den sie auf unserer #KIWoche gehalten hat. „Bias: Ein Begriff voller Ambiguität“
https://tube.bawü.social/w/kjvbpYfYBLdbMSb23qS7xX

Ralf Paulussen

Nein Bing, die richtige Antwort ist
1. Fahrrad
2. U-Bahn
3. Bus
4. Die eigenen Füße
...
#Autokorrektur #KI #Bias

@SheDrivesMobility

Frage an Bing KI was die besten Fahrzeuge für einen Single in der Grosstadt sind, der nur kurze Strcken unterwegs ist. Als Antwort schlägt die KI verschiedene E-Auto-Modelle vor.

David August

So Meta, you’ve got some biases happening and might wanna not do that.

#ai #gai #ArtificialIntelligence #GenerativeAI #bias #gigo

[screenshot of an imagine with Meta AI result from the prompt “Facebook executive” of a white person]

You can't feed biased garbage in and not get biased garbage out.

[screenshot of an imagine with Meta AI result from the prompt “Facebook executive under arrest” of a black person]

Thomas Fricke (he/him)

Schöne Grüße Frankfurt von der

https://wiki.dnb.de/pages/viewpage.action?pageId=306153594

#dnb #ai #llm konferenz

Es gibt ein vollständiges #foss

Modell, dass sogar besser als die proprietären #VC Modelle ist.

https://laion.ai/

Außerdem haben sie #bias #copyright und die Verteilung
verstanden.

Benjamin Knispel

Danke für nichts DeepL… Sind wir ein bisschen biased, was das Geschlecht von Physik-Doktorand:innen angeht? „Pulsare wurden erstmals 1967 von Jocelyn Bell entdeckt, der damals als Doktorand an der Universität Cambridge an einem Projekt zum Bau eines neuen Radioteleskops arbeitete“.

#Bias #AI

🍄🌈🎮💻🚲🥓🎃💀🏴🛻🇺🇸

Content warning US Politics

NYT covering Hillary Clinton’s “deplorables” remark vs NYT covering Donald Trump’s “vermin” remark.

#politics #trump #election #news #media #theNewYorkTimes #newspaper #hillaryClinton #mediaBias #bias

Screenshot of The New York Times

Hillary Clinton Calls Many Trump Backers ‘Deplorables,’ and G.O.P. Pounces

Screenshot of The New York Times

Trump Takes Veterans Day Speech in a Very Different Direction

Matt Willemsen

Japan urged to ensure equal healthcare access after hospital turns away lesbian mum-to-be
A woman in a same-sex relationship who became pregnant through in-vitro fertilisation was denied treatment at a hospital, advocacy group Kodomap said
Japan requires women to be in a heterosexual marriage to access IVF, leading some in same-sex relationships to travel overseas to receive the treatment
https://www.scmp.com/news/asia/east-asia/article/3240693/japan-urged-ensure-equal-healthcare-access-after-hospital-turns-away-lesbian-mum-be?utm_source=rss_feed #japan #HealthCare #bias #gender #IVF

PattyHankins

Article from the Washington Post about how AI generated images are reinforcing biases and stereotypes by what they portray is images.

https://wapo.st/3u429lR

Link is a gift link so you don’t need a Washington Post account to read the article

#AI #Stereotypes #Bias