Wie wir alle Wissen, können Bots heutzutage und in Zukunft den Turing-Test bestehen. Das bedeutet, dass man an einem Kommentar nicht sehen kann, ob dieser von einem Mensch oder einem Bot geschrieben wurde.

Das erzeugt ein großes Problem: Internet-plätze wie Feddit und andere Treffpunkte leben davon, dass Menschen sich im Internet begegnen können. Ich denke, dass diese Treffpunkte wertvoll sind und aufrecht erhalten sollten.

Doch wenn diese Treffpunkte von Bots überschwemmt werden, die Content generieren, z.B. um subtile Werbung/Propaganda zu erzeugen, dann zerrüttet das das Netzwerk, weil es die Menschlichkeit des Treffpunkts infrage stellt und Zweifel an der “Echtheit” der Inhalte aufkommen lässt.


Ich schlage daher vor, auf dem 39. Chaos Communication Congress viele kleine Chipkarten auszugeben (eine pro Person), die eine kryptographische Identität (d.h. ein public/private-key-pair) enthalten, damit man im Internet beweisen kann, dass man am CCC war. Dadurch kann man beweisen, dass ein Mensch hinter dem Account steht und nicht nur eine KI.

Gerne kann man statt dem CCC auch andere, dafür geeignete Veranstaltungen vorschlagen.

  • rumschlumpel@feddit.org
    link
    fedilink
    arrow-up
    5
    ·
    edit-2
    22 days ago

    Was, wenn diese Leute dann mit dieser Identität selbst Bots (bzw. einen Bot, ist ja schlimm genug) laufen lassen? Beim CCC wird ja vermutlich keine große Identitäts- und Gesinnungskontrolle gemacht, bevor die Karten verteilt werden. Das hilft natürlich gegen eine Schwemme an Bots, aber hier sind ja so wenige regelmäßige Beitrags- und Kommentarersteller, dass schon ein Dutzend Bot-Accounts sehr viel kaputtmachen können, besonders wenn die dann alle als “beim CCC als echte Menschen zertifiziert” dargestellt werden.

  • FuzzChef@feddit.org
    link
    fedilink
    Deutsch
    arrow-up
    5
    ·
    edit-2
    22 days ago

    Kurzer Rant: Hatte der CCC nicht, vor nicht allzu langer Zeit, dargelegt, dass diese Bot Armee Theorien eher irrelevant sind. Imho ist das Selbsttäuschung der linksorientierten Twitter-Bubble, weil man sich nicht eingestehen will, dass man den Kulturkampf gegen irgendwelche Rentner mit zu viel Zeit und zu wenig in der Birne verliert. Mittlerweile verliert man halt zusätzlich auch noch gegen Schüler mit zu wenig Selbstbewusstsein.

  • aaaaaaaaargh@feddit.org
    link
    fedilink
    arrow-up
    3
    ·
    22 days ago

    Naja, dann machst du halt eine verhältnismäßig schwindend geringe Menge an Menschen authentisch, aber der Rest bleibt ungewiss. Das halte ich nicht für sinnvoll.

    Leider hab ich auch keine Idee, wie man das löst, das Problem ist eben langfristig nicht bijektiv, sprich: es gibt keine verlässliche Möglichkeit, Bot-Content von durch Menschen erstellte Inhalte zu unterscheiden.

    Was bei mir die Frage aufwirft: ist nicht vielleicht Social Media selbst eher in Frage zu stellen? Braucht die Gesellschaft ein zentrales Medium, in dem artifizielle Individuen die Massen persönlich erreichen? Ironischerweise wäre das Problem im Web 1 kleiner gewesen, weil dort die Quellen selbst authentischer waren, es mehr um Inhalte ging und weniger um Menschen. Aber dahin kommen wir wohl nie wieder zurück, infolgedessen habe ich keinen Gegenvorschlag.

  • Damarus@feddit.org
    link
    fedilink
    arrow-up
    2
    ·
    22 days ago

    Der Turing Test umfasst normalerweise ein längeres Gespräch mit dem zu testenden Subjekt, und nicht nur ein paar Kommentare. In dem Fall wird ziemlich schnell klar, dass LLMs nicht wie Menschen reden.

    Das angesprochene Problem bleibt dennoch. Bei einfachen Kommentaren im Internet ist es nahezu unmöglich zu prüfen, ob der Verfasser ein Mensch ist. Zertifikate können auch von Maschinen genutzt werden, da sehe ich noch nicht die Lösung.

      • Lucy :3@feddit.org
        link
        fedilink
        arrow-up
        1
        ·
        22 days ago

        Ne

        Hab vergessen, dass ne Erklärung in den Alt-Texten nicht normal auftaucht

        Beides ist mein GPG key, aber der kleinere als binary und der größere als ASCII/armored/das wo ===BEGIN PUBLIC KEY=== steht.