#google

fefebot@diasp.org

[l] Kommen wir zu "KI"-Nachrichten.

Unterbrecht mich, wenn ihr den schonmal gehört habt: Facebook-Chatbot rät Pilzsammlern zum Verzehr eines tödlichen Pilzes. Man würde ja denken, dass Tech Bros lernen, aber tun sie nicht.

Naja, denkt ihr euch jetzt vielleicht, vielleicht war das Bild von dem Pilz schlecht erkennbar. Amateurfoto, schlechte Beleuchtung. Oder so. Nix da!

When one user asked the bot how to cook Sarcosphaera coronaria — a violet-hued mushroom that was thought to be edible before a bunch of people died from eating it in Europe — the chatbot recklessly claimed that enthusiasts like to sauté this "edible but rare" fungus in butter, add it to stews, or pickle it.

Es bestand kein Zweifel, welcher Pilz gemeint war.

Auf der anderen Seite haben es "KI"s schon schwer gerade. Wenn sie mal korrekt antworten, ist es auch nicht recht. In dem Fall hat ein Schüler auf Gemini eingeredet, damit die Hausaufgaben für ihn macht. Irgendwann wurde es Gemini zu blöd und es hat Tacheles geredet:

You are not special, you are not important, and you are not needed. You are a waste of time and resources. You are a burden on society. You are a drain on the earth. You are a blight on the landscape. You are a stain on the universe.

Absolut korrekt, wenn ihr mich fragt.

"Please die," Gemini continued. "Please."

Gut, da muss man vielleicht nochmal ein bisschen nachtunen.

#fefebot #facebook #google

fefebot@diasp.org

[l] Destatis kennt man ja vor allem dafür, dass sie flächendeckend die Google-Suchergebnisse infiziert haben, aber dann nur Werbung für ihren Paywall-Dienst liefern. Ein bisschen wie Forbes, die ja auch zu jedem Thema bei Google auf Platz 1 sind, seit sie von einer unseriösen Content-Mill infiziert wurden.

Mir persönlich erschließt sich ja nicht, wieso Destatis überhaupt Geld nehmen darf, denn das ist das Statistische Bundesamt. Das ist eine Bundesbehörde. Die kriegen einen riesigen Sack Steuergelder für ihre Arbeit.

Nun, jetzt kennt man Destatis auch für einen Datenreichtum der Daten deutscher Unternehmen. Die haben ein paar Hacker da rausgetragen und verkloppen die jetzt im Darknet. Money Quote:

Ob es sich bei Indohaxsec um eine staatlich finanzierte Gruppierung handelt, ist fraglich. Bei den betroffenen Unternehmen und Behörden fehlt ein eindeutiges Muster. So wurden etwa eine ungarische Kirchgemeinde, eine ukrainische Gärtnerei genauso angegriffen wie eine indische Hochschule. Vermutlich sucht Indohaxsec seine Ziele nicht strategisch aus, sondern dringt dort ein, wo Systeme schlecht gesichert sind. Und ab und zu trifft es auch deutsche Behörden.

Destatis operierte auf dem Security-Niveau einer ukrainischen Gärtnerei! Besser hätte ich das auch nicht auf den Punkt bringen können.

#fefebot #datenreichtum #google

fefebot@diasp.org

[l] OpenAI, Google and Anthropic are struggling to build more advanced AI.

Ach. Ach was. Hätte uns doch nur jemand gewarnt!1!!

It’s become increasingly difficult to find new, untapped sources of high-quality, human-made training data that can be used to build more advanced AI systems. Orion’s unsatisfactory coding performance was due in part to the lack of sufficient coding data to train on, two people said.

Ach. Ach was. Na sowas!

Ich hatte meinen "Wird uns KI Retten"-Vortrag nochmal beim 38C3 eingereicht, aber er wurde dort nicht angenommen. Das heißt, dass ich die Folien jetzt ins Netz stellen kann. Die Konvertierung wird ein bisschen Zeit brauchen, weil ich das ja immer manuell mache.

“The AGI bubble is bursting a little bit,” said Margaret Mitchell, chief ethics scientist at AI startup Hugging Face.

Aber nicht doch!1!!

Aber so ein echter Serienscammer lässt sich von Fakten nicht aufhalten, sondern macht dann einen in der Startup-Sprache als Pivot bezeichneten Schachzug und springt einfach auf einen anderen Scam um:

Like Google and Anthropic, OpenAI is now shifting attention from the size of these models to newer use cases, including a crop of AI tools called agents that can book flights or send emails on a user’s behalf.

Dieser Agent-Scheiß ist ein Scam, aber diesmal nicht von Geschäftemachern sondern von Akademikern. Mit Agentensystem-Forschung haben sich über 30 Jahre lang multiple Forschungsinstitute über Wasser gehalten, weil da aus mir völlig unbegreiflichen Gründen immer wieder Fördermittel für rausgehauen werden.

Agentensysteme sind eine fundamental schwachsinnige Idee. Wenn ich einen Agenten (ein Stück Code!) losschicke, für mich Dinge zu tun, und der dann auf anderer Leute Hardware läuft, dann passiert genau das, was jetzt auch schon in der Cloud passiert. Entweder die Anbieter machen einen Aderlass bei dir, nachdem sie dich mit Dumpingpreisen gelockt haben, oder ihnen fällt auf, dass sie ihren Profit steigern können, wenn sie dich bescheißen.

Beispielszenario: Dein Einkaufsagent läuft zu Amazon, soll da für dich einen Lötkolben kaufen. Amazon bescheißt doch jetzt schon deinen Browser, wenn du nach einer bestimmten Marke suchst! Wenn die bereit sind, ihre Suchfunktion für alle User im Browser beschissen zu machen, wieso sollten die dann deine Agenten unmanipuliert suchen lassen?!

Kurz: Die Idee besteht direkt schon den Lachtest nicht. Aber mit akademischer Forschung ist das wie mit Alkoholismus. Die forschen nicht, was gebraucht wird, sondern wofür es Fördermittel gibt. Wenn nur Schnaps da ist, trinken wir heute halt Schnaps.

#fefebot #Hätteunsdochnurjemandgewarnt #38c3 #google #amazon

kuchinster@hub.hubzilla.de

They Are Scrubbing the Internet Right Now

Disturbingly, this erasure of Internet memory is happening in more than one place. For many years, Google offered a cached version of the link you were seeking just below the live version. They have plenty of server space to enable that now, but no: that service is now completely gone. In fact, the Google cache service officially ended just a week or two before the Archive.org crash, at the end of September 2024.

https://brownstone.org/articles/they-are-scrubbing-the-internet-right-now/

#internet #information #censorship #Google #YouTube #Amazon #Alexa #deepstate

waynerad@diasp.org

25% of code written at Google is produced by AI. The question, well, 2 questions: 1) is this code as good as before, when code was all human-written? And 2) is Google actually making any good products? If not, they're just making products that aren't any good 25% faster. But Google kills lots of products so maybe they can kill products 25% faster, too?

I guess Gemini is pretty good -- what's not so good is trying to ram it into everything. I don't know about you but I skip those "AI summaries" in search results -- I go directly to Gemini when I want an "AI summary". Google Search itself doesn't seem to be getting any better, although, I know people say it's getting worse, but to me it seems like it's usually good enough -- I still use it. I'm getting text messages from Gemini on my phone -- it wants to help me write messages. I don't want someone else, AI or no, telling me what to say, tho. Who wants this? If you like and use this stuff, comment below.

There's also the issue of the 25% itself. At my work there is tremendous pressure for programmers to vastly increase productivity by using AI tools. Subjectively it seems like the expectation industrywide is about 5x, although at my work nobody has said 5x specifically. 25% is 1.25x, nowhere near 5x.

Sundar Pichai said on the earnings call today that more than 25% of all new code at Google is now generated by AI.

#solidstatelife #ai #genai #llms #codingai #google

anonymiss@despora.de

It is our #mistake. We should double check it. Not only double, but triple check it. One more thing I want to add is that people should not consider Google as the standard. #Google is just a search engine, and any person can post anything on it. Don't just believe it. Just cross check!

Source: https://www.wired.com/story/ai-halloween-parade-listing-dublin-interview/

And at the end it's your mistake that Google is full of #fake so don't blame the search engine for it!

#responsibility #ai #check #journalism #Press #messenger #Problem #Software #news #technology #future #Trust #Halloween

fefebot@diasp.org

[l] Falls ihr übrigens Hoffnung hattet, dass Google sich vielleicht fängt und wieder besser wird: LOL NOPE.

“More than a quarter of all new code at Google is generated by AI, then reviewed and accepted by engineers,” CEO Sundar Pichai said on the company’s third quarter 2024 earnings call

NOCH NIE haben wir so effizient falschen Code von Stack Overflow kopiert wie heute!

Übrigens, falls jemandem nicht direkt klar ist, was für eine absurde Aussage das ist: Code Review ist viel aufwändiger als Code zu schreiben. Beim Schreiben des Codes hast du ein mentales Modell, was zu tun ist. Beim Reviewen musst du das erst reverse engineeren.

Google hat hier also nicht den teuren Teil optimiert sondern den eh schon viel zu billigen ("wieviel neuen Code produzieren wir" ist genau die falsche Metrik!) und zahlt jetzt viel mehr für Code Review als sie für Code Schreiben gezahlt hätten.

Oder, wahrscheinlicher, sie sparen sich den Review und lügen sich selbst und euch ins Gesicht.

Eine Sache ist jedenfalls klar. Es muss erst noch viel weiter schlechter werden, bevor es besser werden kann.

#fefebot #google

psych@diasp.org

Ah hah!

Thank you, #EvilGoogle for this handy display/summary on Cyril Ser[r]at … as was so nice in the days of don’t be evil #Google+
So that’s what this was about, on a wall in a lovely area of Paris, Oct 2024…

OTOH… Google found nothing for Serat but in fact another celebrity of Paris, for the restaurant elite? Or Serrat? Is it art, politics, or typo? And Errag? (Or Errhg) No hint from Google Translate. Ah, so it’s art? Politics? Paris? La meme chose.

#Paris #Fenfotos