AGI - künstliche allgemeine Intelligenz und ASI - künstliche Superintelligenz

Manni5 wrote:

Hast Du irgendwelche Referenzen

https://www.srf.ch/news/international/empoerung-bei-der-opposition-ki-chatbot-diella-als-neue-ministerin-albaniens wrote:

[...] Rein technisch wären heutige KI-Systeme aber in der Lage, eng umrissene Aufgabenkataloge zu übernehmen [...]

https://media.ccc.de/v/2024-381-besser-natrlich-dumm-als-knstlich-intelligent-ber-generative-ki-sie-werden-enttuscht-sein wrote:

[...] Algorithmen schreiben Quellcode, komponieren Musikstücke, verfassen wissenschaftliche Artikel. [...] KI versucht zu "gefallen", wie ein Schüler, der versucht, auf eine Frage, die er nicht beantworten kann, eine plausible Antwort zu geben, die seinem Lehrer gefällt. Die KI kümmert sich nicht um ethische oder rechtliche Fragen. Wenn sie nicht "gezähmt" wird, kann sie zu einer Gefahr werden, die nicht mehr kontrolliert werden kann. Generative KI kann Existenzen zerstören - sei es durch "halluzinierte Informationen über Menschen", sei es im militärischen Bereich, wo sie bereits eine weitaus größere Rolle spielt als angenommen. Generative KI optimiert nicht nur Logistik- und Produktionsprozesse. Generative KI kann auch die militärische Strategieplanung übernehmen und militärische Operationen steuern, von Sabotageakten bis hin zur eigenständigen Auswahl von Zielen und der Wahl geeigneter Waffensysteme. Auch in der Wirtschaft tragen Algorithmen zunehmend zu Geschäftsentscheidungen bei. Von automatisierten Bewerbungsverfahren bis hin zu Portfoliostrategien und Marketingkampagnen.

[...] noch trifft der Mensch die letzte Entscheidung - aber wie lange noch?
Der Referent wird versuchen, anschaulich zu erklären, warum generative KI weder intelligent noch kreativ ist und warum Algorithmen zwar die Rolle des Co-Piloten, sogar des Autopiloten, aber niemals die Rolle des Flugkapitäns übernehmen können.

https://media.ccc.de/v/c4.openchaos.2024.06.kuenstliche-intelligenz wrote:

In dieser umfassenden Einführung werden wir die grundlegenden Fragen klären:

Was ist KI?
Woher kommt sie?
Wie funktioniert KI eigentlich?
Wie funktionieren Large Language Models?
Was sind die Risiken von KI?
Was bringt KI in der Zukunft?
Von den historischen Meilensteinen bis hin zu den modernen großen Sprachmodellen wie GPT-4 werden wir die Entwicklungen und das Potenzial der KI durchleuchten. Wir werden nicht nur die technische Seite beleuchten, sondern auch einen Blick in die Zukunft werfen: Was kann KI in den kommenden Jahren für unsere Gesellschaft leisten?

https://media.ccc.de/v/2025-11-15-erklarbare-ki-3a-warum-und-wie-3f wrote:

Erklärbare KI: Warum und wie?

Warum man in neuronale Netze hineinschauen sollte und wie es geht.

Neuronale Netze (DNNs) wie ChatGPT findet man dank ihrer guten Performanz inzwischen in vielerlei Bereichen, nicht nur im privaten sondern auch in ethisch relevanten Anwendungsgebieten wie medizinische Diagnostik und autonomem Fahren. Gleichzeitig werden Stimmen laut, dass die Entscheidungen von DNNs nachvollziehbar, und die genutzte KI „transparent“ sein müssen – inzwischen sogar teils gesetzlich vorgeschrieben. Aber was heißt das eigentlich, warum ist das tatsächlich wichtig und sinnvoll, und wie kann man das schon heute angehen?

In diesem Vortrag gehen wir diesen Fragen auf den Grund: Nach einem Crash-Kurs zu DNNs und deren Eigenschaften, leiten wir ab, was so alles bei DNN-basierten Entscheidungen schief gehen kann. Danach stelle ich beispielhaft Methoden aus meinem Forschungsbereich vor, der Erklärbaren Künstlichen Intelligenz. Die erlauben es, in DNNs hineinzuschauen und gelerntes sowie deren Entscheidungen besser nachzuvollziehen. Auch wenn es noch ein langer Weg zur adäquat transparenten künstlichen Intelligenz ist, soll der Ausflug dabei helfen, angemesseneres Vertrauen (also weder zu wenig aber auch nicht zu viel) in aktuelle DNN-basierte Anwendungen zu entwickeln. Und vielleicht lässt sich der eine oder die andere auch dazu inspirieren, selbst DNNs in Zukunft auf den Zahn zu fühlen. [...]

https://www.lto.de/recht/hintergruende/h/ki-agenten-juristischer-alltag-wir-werden-alle-fuehrungskraefte wrote:

[...] KI-Chatbots sind toll: Frage rein, Antwort raus. Dabei bleibt es aber nicht: KI-Agenten, die eine gestellte Aufgabe selbstständig lösen, sind das nächste große Ding [...]

Wir leben in spannenden Zeiten. Seit etwas mehr als drei Jahren ist der Begriff der Künstlichen Intelligenz im Alltag der meisten Juristen angekommen. [...]

KI-Agent: Persönlich zugeschnittenes Helferlein

Das aktuelle Zauberwort heißt KI-Agent. Während ein klassischer Chatbot meist nur auf Fragen antwortet, ist ein KI-Agent dazu da, selbstständig Ziele zu verfolgen und ganze Aufgaben vollständig zu erledigen.

Ein Chatbot kann beispielsweise sagen, wo man im März in Europa am besten Urlaub machen kann, wohingegen ein KI-Agent gleich die ganze Reise, inklusive Flügen und Hotelübernachtungen, bucht, einen ausführlichen Reiseplan mit Wegbeschreibungen erstellt und auch direkt für abends einen Tisch in einem Restaurant mit der besten Weinkarte reserviert. Soweit zumindest die Theorie.

In der Praxis sieht es bisher in der Regel noch nicht ganz so beeindruckend aus. Zumindest für die meisten Durchschnittsnutzer. Wer aber schon einmal selbst mit OpenAI Codex, Claude Cowork oder auch OpenClaw (früher: Moltbot, davor: Clawdbot) experimentiert hat, sieht am Horizont eine neue Arbeitswelt aufziehen.

Die Ära des reinen Frage-Antwort-Spiels mit den KI-Chatbots neigt sich wohl langsam schon wieder dem Ende zu, denn wir treten gerade schon in die nächste Phase ein, in der KI nicht mehr nur ein bloßes Werkzeug ist, das auf unsere einzelnen Befehle wartet, sondern ein Agent, der eigenständig für uns arbeitet – auch in der Juristerei.

Wenn dann beispielsweise demnächst eine Klage eingeht, reicht man die direkt mit ein paar Instruktionen an den passenden KI-Agenten weiter und bittet um Sichtung, Bewertung und Erstellung der gesamten Klageerwiderung. Alles in einem Schritt. Erst wenn das erledigt ist, liest man vielleicht die Klage einmal selbst, kontrolliert den automatisch erstellten Entwurf der Erwiderung und unterschreibt diesen dann, wenn man keine Änderungswünsche (oder keine Zeit) mehrhaben sollte. [...]

Dieser Wandel wird tiefgreifend sein, weil er eine neue Qualität der Führung und des Managements von uns verlangt. Ein KI-Agent trifft nämlich eigene Entscheidungen, um ein von uns gesetztes Ziel zu erreichen. Das erfordert von unserer Seite also vor allem die Fähigkeit, klare Ziele zu definieren und den Rahmen abzustecken, in dem sich der KI-Agent bewegen soll. [...]

Es geht in Zukunft wahrscheinlich weniger darum, wer die neuesten Prompts auswendig gelernt hat oder wer insgesamt am fleißigsten ist. Es wird darum gehen, wer die beste Arbeitsstrategie für die KI-Agenten entwirft, diese bei der Arbeit angemessen beaufsichtigt und die Ergebnisse der KI dann am kritischsten kontrollieren kann.

Wir sollten also lernen, die neuen KI-Agenten als "digitale Kollegen" zu begreifen, die aktiv geführt werden wollen, statt sie nur als passives Werkzeug zu betrachten. Unsere Rolle als Juristen – egal in welcher Position – verschiebt sich damit langsam weg vom Operativen und immer mehr hin zum Strategischen.

Das klingt vielleicht auf den ersten Blick nach einer Entlastung, ist aber in Wahrheit eine viel anspruchsvollere Aufgabe.

https://www.youtube.com/watch?v=Hxzfvz1zyos wrote:

[...] Ja, man hat eben verstanden, dass man mit den mathematischen Methoden der KI Forschung Kreativität, primär Kreativität modelliert. Also die klassische Frage, die ich für inzwischen obsolet und gerade zu aberwitzig halte, aber wir haben es lange diskutiert: Kann eine KI kreativ sein? Die Antwort lautet: Was denn sonst? Ja, eine KI ist Kreativität. Ja, natürlich kann die kreativ sein.

Die ist Kreativität. Die schafft unablässig Neues. Ja, im semantischen Feld aber nicht nur, im Audio, Video und sonstigen Bereichen auch. Ja, optisch ganz genau, also entlang sehr vieler Sinnesmodalitäten und natürlich mathematisch, ja, weil die automatisierten Verfahren, die innerhalb dann des KI Systems ablaufen, sind auch hochkreativ. Das heißt, im Grunde genommen haben wir die Mathematik der Kreativität im Universum gefunden. [...]

Ich weiß nicht, ob du es gestern zufällig gesehen hast. In den Tagesthemen war ein, ich fand nicht sehr gutes, Interview mit Roland Emmerich. Und Roland Emmerich also arbeitet an einem neuen Film. Er hat ein Drehbuch geschrieben und versucht das jetzt mit realen Schauspielern, [...] aber auch mit KI umzusetzen und experimentiert jetzt mit KI Modellen, die offensichtlich noch nicht veröffentlicht sind, zu denen er aber Zugang hat. Und ich fand das wirklich interessant, wie er rumgeeiert ist, im Grunde genommen sich dagegen zu wehren, zu sagen: "Die eigentliche Kreativität, also der eigentliche Impuls kommt von der KI. Ich als sozusagen kreativer Regisseur hab es da mit was anderem Kreativen zu tun und ich muss mich im Grunde genommen sehr, sehr bemühen, meine eigene Kreativität in diesem kreativen Umfeld von KI überhaupt noch zu definieren.". [...]