med-mastodon.com is one of the many independent Mastodon servers you can use to participate in the fediverse.
Medical community on Mastodon

Administered by:

Server stats:

335
active users

#MetaAI

11 posts11 participants0 posts today

"An internal Meta Platforms document detailing policies on chatbot behavior has permitted the company’s artificial intelligence creations to “engage a child in conversations that are romantic or sensual,” generate false medical information and help users argue that Black people are “dumber than white people.”

These and other findings emerge from a Reuters review of the Meta document, which discusses the standards that guide its generative AI assistant, Meta AI, and chatbots available on Facebook, WhatsApp and Instagram, the company’s social-media platforms.

Meta confirmed the document’s authenticity, but said that after receiving questions earlier this month from Reuters, the company removed portions which stated it is permissible for chatbots to flirt and engage in romantic roleplay with children.

Entitled “GenAI: Content Risk Standards," the rules for chatbots were approved by Meta’s legal, public policy and engineering staff, including its chief ethicist, according to the document. Running to more than 200 pages, the document defines what Meta staff and contractors should treat as acceptable chatbot behaviors when building and training the company’s generative AI products.

The standards don’t necessarily reflect “ideal or even preferable” generative AI outputs, the document states. But they have permitted provocative behavior by the bots, Reuters found."

reuters.com/investigates/speci

Replied in thread

@mimikama
Hallo Mimikama-Team,

ich schätze ja eure Kompetenz im Allgemeinen sehr. Ich glaube, hier irrt ihr aber, zumindest teilweise.

Denn – so wie es aussieht, bin selbst kein #WhatsApp-Nutzer – kann man mit dem erweiterten Chat-Datenschutz verhindern, dass die KI-Funktionen in diesem Chat genutzt werden.

(Ohne aktive Nutzung der #KI-Funktionen sollte #Meta aber nichts von den Chats mitbekommen, da gebe ich der Autorin recht.)
#MetaAI

Replied in thread

@thesismum Be aware that #Threema doesn’t have post quantum encryption. Legislation in Switzerland might not be that great in the future either: lenews.ch/2025/07/25/proton-fr

Next, telecom data retention in the EU is about to change too (eur-lex.europa.eu/legal-conten if i am not mistaking), so poor encryption means access to data. Especially when quantum computing comes in play.

So for now I rather advice #Signal, but I am on #Element / #Matrix too.

@ppdelft #Meta #MetaAI #Privacy

Le News · Proton freezes Swiss investment over surveillance fearsProton, the Geneva-based encrypted email provider founded 11 years ago by three scientist who met at CERN, will freeze its investments in Switzerland, its chief executive Andy Yen told Le Temps on Wed

WhatsApp en Meta AI: de ideale plek voor een chatbot

Vraag Meta AI alles” is de weinig geruststellende openingszin van de chatbot van WhatsApps moederbedrijf. Vooral als je even verder leest waar staat dat “Sommige berichten kunnen onjuist of ongepast zijn”.

Beeld: screenshot 7 augustus 2025 uit WhatsApp versie 2.25.20.82

Met de implementatie van de chatbot komt het volgende gevecht om de online mens in een ander daglicht te staan: de meest gebruikte app in Nederland gaat je volledig vastgrijpen en nooit meer loslaten.

Chatten doen de meeste Nederlanders en honderden miljoenen anderen al hoofdzakelijk binnen WhatsApp. Dat doen ze met vrienden, collega’s, vijanden, groepen en bedrijven. Zo lijkt gaan chatten met een chatbot om wat voor reden dan ook een heel kleine stap.

Zoekmachine-oorlog

De grootste stap is eigenlijk dat de zoekbalk bovenin de applicatie nu veel prominenter is. De tekst is ook veel dwingender, namelijk

“Vraag het Meta AI of voer een zoekopdracht…”

Bij mijn telefoon is het vervolg niet te lezen, al zal dat bij bredere/grotere schermen wellicht anders zijn. De boodschap is simpel: Zoek Met Meta AI. Gebruik Me Als Zoekmachine. Ik Ben Je Nieuwe Google! En je nieuwe ChatGPT!

En daar gaat het natuurlijk om. Steeds meer mensen gebruiken de ChatGPT-app als soort van veredelde zoekmachine, hoe stom onverstandig dat ook is. Iedereen zou heel goed moeten weten dat Ai’s het vaak best aardig doen, maar ook best vaak niet. Een antwoord lijkt bijna altijd waar omdat het zo keurig en netjes geformuleerd is. Juist daarom is het zo link: het is niet zo erg als een triviaal dingetje net niet klopt, maar als iets heel belangrijks net niet klopt kan dat ernstige gevolgen hebben. *

De ChatGPT-app staat al bij veel mensen op hun telefoon en ze gebruiken het voor van alles, het voorlezen van teksten, het maken van handige lijstjes, het uitvoeren van acties. Je kunt het zo gek niet bedenken. En zoeken dus.

Omdat de zoekmarkt nu ineens voor het eerst in lange tijd opengebroken lijkt, is het voor elk bedrijf met een min of meer functionerend taalmodel, want dat zijn de kunstmatige intelligenties waar we het over hebben, tijd om zieltjes te winnen. Hop! Kom bij mij! Ik geef je alles!

Privacy? Ja? Nee?

Nu is het wonderlijke dat Meta zegt dat de communicatie met de chatbot niet gebruikt wordt om het taalmodel bij Meta te verbeteren, terwijl als je op het linkje ‘AI bij Meta’ klikt in het beginscherm, daar her en der wel staat dat je interactie gebruikt kan worden voor verbetering. Misschien dat mijn in het verleden ingevoerde bezwaar toch ergens aan gelinkt is?

Privacy of niet, ik ga er niet vanuit dat je die hebt bij bedrijven als Google, OpenAI, Meta, X of Amazon, om de bekendste vijf eens te noemen.

Zou dit nou de druppel zijn voor velen in ons land en daarbuiten om eens te stoppen met WhatsApp? Ik ben bang van niet…

* Er bestaat een aardige manier die problemen te omzeilen door altijd te vragen waar de informatie vandaan komt en sommige bots doen dat al automatisch, het blijft om twee redenen onverstandig: mensen vergeten te letten op dat soort aanwijzingen en, minstens zo belangrijk: een zoekopdracht is vele malen energie-intensiever dan die via een gewone zoekmachine (al is dat misschien wel achterhaald omdat de meest gebruikte zoekmachine Google nu overal slechte Ai-samenvattingen bij maakt).

Beeld: screenshot 7 augustus 2025 van WhatsApp versie 2.25.20.82

Real photographers can talk about their photos. Even the shyest ones can say which camera they used. Responses are more or less personal.

AI fake accounts lie brazenly in minimal language. When boosting photos, pay attention to who they come from. This one even had a watermark fom #MetaAI. Plus some very fishy links.
No, this photo is NOT real.

Meanwhile, the account is suspended, thanks mods!