noauthority.social is one of the many independent Mastodon servers you can use to participate in the fediverse.
Long live NAS!

Administered by:

Server stats:

1.4K
active users

#eliza

1 post1 participant1 post today

What connects chatbots such as ChatGPT to a 19th century seamstress and the heavy price she paid for falling in love with an upperclass academic?

The foundational chatbot ELIZA was developed in the 1960s by MIT professor Joseph Weizmann to mimic human communication. Weizmann named it after Eliza Doolittle from George Bernard Shaw’s play Pygmalion.
1/4

Firefox has added an optional side-bar for an AI chat and you can specify which model to use.

Has anyone made it use Eliza yet?

😆

😐 : Summarize this page
🤖 : Have you come to me because you want to summarize the page?
😐 : Yes, please summarize the page
🤖 : What does it mean to you to summarize the page?

I haven't turned it on, and I am eyeing forks of the software that are against this sort of thing, but if I did turn it on that model would amuse me most.

#ai#firefox#aiModel

"[Weizenbaum] identified the natural empathy humans have toward one another and the way that this can be misdirected toward computers and recognized the great temptation for technologists to use this empathy to mislead or deceive humans to make a profit, to nudge or persuade them, or to undermine democracy itself.

The Limits of Computation | Weizenbaum Journal of the Digital Society ojs.weizenbaum-institut.de/ind

Continued thread

#Chatbots – egal wie einfach oder komplex gemacht sie sind – nutzen den ELIZA-Effekt: eine Wahrnehmungsverzerrung, die Menschen dazu bringt, tendenziell zu glauben, was gut formuliert ist.
en.wikipedia.org/wiki/ELIZA_ef

Die fatale Tendenz, Chatbots zu anthropomorphisieren, wird verstärkt, wenn in diesem Zusammenhang von „künstlicher Intelligenz“ gesprochen wird. Wenn sie LLMs verwenden, dann sagt das und nicht „KI“.

Vielleicht ist es weniger fatal, Chatbots mit Tieren zu vergleichen. @emilymbender hat dafür „stochastische Papageien“ vorgeschlagen.

Wenn ich lese, was @lcamtuf dazu schreibt, bin ich entgegen seiner Empfehlung doch versucht, Chatbots zu vermenschlichen – als Trickbetrüger.
lcamtuf.substack.com/p/llms-ar

en.wikipedia.orgELIZA effect - Wikipedia
#Chatsbot#llm#bard
Continued thread

Weizenbaum ging es nicht um Prognosen, was technisch machbar sein wird. Er war nachhaltig entsetzt über die Reaktionen von Menschen auf sein Programm #ELIZA (1966), das einen Dialog mit einem Psychiater simulierte. Das Buch ist eine ausführliche und tiefgründige Reflexion der Hintergründe. Ich glaube, man kann eine seiner wichtigsten Aussagen in einem ebenso simplen wie wichtigen Satz zusammenfassen:

Mensch und Maschine sind niemals wesensgleich!

2/x