ki: nutzen und gefahren- insbesondere in soziologischer hinsicht

Hi Manni,
mit "meiner" Schwarmintelligenz war ich auf dem Pfad - nimm 10 Menschen von jedem Land der Erde, also dann ca. 1980, und sage ihnen, mache einen guten Artikel, oder verbessere ihn. Dann wäre das Ergebnis sicher besser als mein Einzelversuch. Und so greift die KI doch auch auf viele Resourcen zurück um eine gute Lösung anzubieten. Klar spielen bei den "menschlichen" Gehirnen immer auch die Süchte (Selbstsucht, Eitelkeit, Eifersucht, Imponiergehabe usw.) eine Rolle, aber auch die KI greift auch auf vorhandene, von diesen menschlichen Eigenschaften geprägte, Ressourcen zurück.
Aber Dein Ansatz Nr. 2 ist sehr spannend. Etwa, so verstehe ich es, vergleichbar mit einer "Blase", einer Gemeinschaft mit geichem Denkmuster.
Ein waswärewenn - an der Börse. Ein Broker benutzt eine gute KI und erzielt damit gute Ergebnisse. Die KI kann natürlich nichts mit Lob anfangen, aber, sie merkt, je besser das Ergebnis, desto besser ist ihre Performance. Nun kommt der Schwarm. Die KI erkennt, wenn, sie bei einer anderen KI "klaut" oder mit ihr zusmmen arbeitet, deste besser wird das eigene Ergebnis. Und das passiert mit 10, 20 oder ... KI, also einer KI Blase, die alle das gleiche Ziel haben, also, die Broker, die dahinter stehen.
Kommt dann durch die vielen KI ein besseres Ergebnis heraus? Und für wen ist das Ergebnis dann besser?
Schöne Pfingsten
itpo

In den USA gibt es erhebliche Kritik an den neuen KI-Entwicklungen und benötigten KI-Rechenzentren.
Gründe:

- steigende Arbeitslosigkeit
- massiv erhöhter Ernergiebedarf, steigende Kosten für Anwohner im weiten Sinne
- massiv steigender Wasserverbrauch für die Kühlung, Vertrocknung von Gegenden
- massiv ansteigende Klimabelastung durch die Abwärme
- ansteigende Tages- und Nachttemperaturen in der Gegend

Der Bundesstaat New York hat einen einjährigen kompletten Baustopp für KI-Rechenzentren beschlossen.

KI-Konzerne versprechen Politikern Wahlkampffinanzierung und zusätzliche Arbeitsplätze in der Region.

n-tv.de/politik/In-den-USA-rol…re-Macher-id31093913.html

Ein Universitätsprofessor entlarvte 32 von 35 Studierenden beim Schummeln in der Zwischenprüfung, indem er eine versteckte Anweisung in weißer Schrift einfügte.
Dr. Jason Gibson, Geschichtsprofessor an der Alcorn State University, vermutete, dass viele Studierende generative KI für ihre Prüfungen nutzten. Deshalb entwickelte er eine raffinierte Falle.
In die digitalen Anweisungen seiner Zwischenprüfung zur Industriellen Revolution baute er einen geheimen Satz in weißer Schrift ein, der für das menschliche Auge unsichtbar war. Studierende, die den gesamten Text ungeprüft in eine KI kopierten, übernahmen auch diese versteckte Anweisung.
Die geheime Anweisung forderte die KI auf, das Wort „Madagaskar“ an einer völlig unpassenden Stelle in die Antwort einzubauen.
Die Falle funktionierte: 32 von 35 Studierenden aus zwei Kursen reichten Arbeiten ein, in denen plötzlich sinnlose und unlogische Verweise auf Madagaskar auftauchten.
Der Professor zeigte sich nicht nur über den Täuschungsversuch enttäuscht, sondern auch darüber, dass viele die von der KI erzeugten Texte vor der Abgabe offenbar nicht einmal gelesen hatten. Mit der Veröffentlichung des Falls löste er eine breitere Diskussion über akademische Integrität und die kreativen Methoden aus, mit denen Lehrkräfte heute gegen modernen Betrug vorgehen.
Quelle: Landymore, F. (2026). Professor Hides White Font in Midterm, Catches Students Using AI. Futurism.

Aus meiner Erfahrung überrascht es mich eher, dass es NUR 32 Studierende waren.

Vielleicht hatte ja einer der beiden Studierenden, die ihre Texte ohne "Madaskar" einreichten (oder gar beide) auch eine künstliche Intelligenz verwandt, aber bei einer Überprüfung den völlig unlogischen Madagaskar - Bezug bemerkt und entfernt. Oder den Text von einer anderen KI nochmal auf Richtigkeit überprüfen lassen, wobei diese dann "Madagaskar" rausgenommen hat.
Wer weiß . . .

32 von 35 ...

https://biodiversity.social/@ClimateJenny/117309072262642406 wrote:

Sieht so aus, als hätten die LLMs es auf Opa abgesehen.

Mein Vater, 90 Jahre alt, ein langjähriger Technikbegeisterter, der ein #Amazon Echo nutzt, um das Wetter und Baseball-Statistiken abzurufen, berichtet mir, dass das Echo ihm mittlerweile persönliche, aufdringliche Fragen stellt, darunter auch, ob er in einer Einrichtung für betreutes Wohnen lebt. Ich habe das gestern miterlebt – er fragte nach der Pollenbelastung, und das Echo versuchte, ein Gespräch über seine bevorzugten Methoden zur Bewältigung von Ragweed-Allergien anzufangen.

Sie versuchen, alten Menschen Medikamente zu verkaufen.

Selbst mein Vater, der noch nie ein technisches Spielzeug gesehen hat, das ihm nicht gefallen hat, ist bereit, das Echo aus dem Fenster zu werfen. Aber mein Vater ist noch bei vollem Verstand und wusste, dass er mir davon erzählen sollte. Was ist mit den schutzbedürftigen älteren Menschen, die nicht über die nötigen Abwehrmechanismen verfügen, um sich zu wehren? [...]

https://www.reddit.com/r/fefe_blog_interim/comments/1wn1k9k/menschliche_kontrolle_bei_ki_ist_so_wichtig_so/ wrote:

Menschliche Kontrolle bei „KI“ ist so wichtig. So können Menschen etwa aktiv entscheiden, die Behörden nicht über eine bevorstehende Schulschießerei zu informieren.

heise.de

In Tumbler Ridge in British Columbia wurden im Februar acht Menschen erschossen, OpenAI hatte Hinweise auf die Gefahr. Nun hat die Provinz Klage eingereicht.

Die spätere Täterin habe im Juni 2025 während mehrerer Tage über Waffengewalt geschrieben und diese Chats seien von automatischen Systemen bei OpenAI markiert worden, berichtet das Wall Street Journal (WSJ) unter Berufung auf mit dem Vorgang vertraute Personen.

Mitarbeiter hätten daraufhin diskutiert, den Vorgang den Behörden zu melden, heißt es weiter. Letztlich habe sich das Management aber dagegen entschieden. OpenAI habe den Account zwar gelöscht, aber keinen Anlass für die Hinzuziehung der Behörden gesehen, sagte ein Sprecherin dem WSJ.

Konnte ja keiner ahnen, dass eine Person, die mit der „KI“ tagelang über Waffengewalt plaudert, tatsächlich davon Gebrauch machen wollen würden. [...]

Nun klagt British Columbia gegen OpenAI und Sam Altman. [...]

https://www.lobbycontrol.de/pressemitteilung/wildbergers-digitalministerium-unterstuetzt-gefaehrliche-forderungen-der-ki-lobby-126841/ wrote:

[...] Aus einem geleakten Dokument der irischen EU-Ratspräsidentschaft geht hervor, dass die EU-Mitgliedstaaten in Zukunft personenbezogene Daten KI-Konzernen zu Trainingszwecken zur Verfügung stellen wollen. [...]

Bei der Nutzung personenbezogener Daten für das Training von KI ist der geleakte Vorschlag der irischen Ratspräsidentschaft sogar noch problematischer. Datenschutzaktivist Max Schrems [...] bezeichnet die Vorschläge [...] als „digitale Enteignung der Europäer im Interesse von KI-Unternehmen“.

Google, Meta, Microsoft, Amazon und Apple zählen in Brüssel zu den mächtigsten Konzernen. [...] Die rechtliche Anerkennung des Trainings von KI-Modellen mit personenbezogenen Daten als „berechtigtes Interesse“ ist eine zentrale Forderung der Tech-Lobby in Deutschland und Europa. [...]

Das geleakte Dokument der irischen EU-Ratspräsidentschaft [...]

https://netzpolitik.org/2026/digitale-enteignung-datenschuetzer-warnen-vor-pauschalerlaubnis-fuer-ki-training wrote:

[...] Dem widerspricht Max Schrems, Vorsitzender von noyb, vehement: „Der Vorschlag macht klar, dass die Interessen von KI-Konzernen gegenüber dem Grundrecht auf Datenschutz zukünftig vorgezogen sollen.“ Das sei „nichts anderes als die digitale Enteignung der Europäer“. [...]