Absurdalny atak polegał na proszeniu ChatGPT o powtarzanie słowa w nieskończoność - dość szybko, po słownie np. “wiersz” albo “książka” pojawiały się treści na bazie których działa ChatGPT, ujawniając, że w całości znajdują się one w jego pamięci.

  • Pajonk@szmer.info
    link
    fedilink
    Polski
    arrow-up
    2
    ·
    11 months ago

    Ciekaw jestem czy spowoduje to stworzenia nowego rodzaju licencji, gdzie materiały będące w i tak będą mogły być blokowane przed wykorzystaniem ich do szkolenia AI.

    Na szczęście przed nami jeszcze wiele wiele lat, zanim te wszystkie AIboty zaczną faktycznie przypominać sztuczną inteligencję. Dziś to 80% marketingu, 15% sprytnych sztuczek i 5% umiejętności rysowania ładnych obrazków i wyszukiwania treści w internecie.

    • didleth@szmer.info
      link
      fedilink
      arrow-up
      1
      ·
      11 months ago

      nie liczyłabym na to, że to zajmie “wiele lat”. Już teraz nieraz ciężko odróżnić, co napisał człowiek, a co sztuczna inteligencja. W Porto Allegro rada miasta przepchnęła uchwałę wygenerowaną przez ChatBota, także ten…

      A odnośnie “nowego rodzaju licencji” - przydałaby się.

      • Pajonk@szmer.info
        link
        fedilink
        arrow-up
        1
        ·
        11 months ago

        Bardzo łatwo to odrodzić, tylko trzeba wiedzieć o co pytać i czego szukać.

        Pisanie stosunkowo prostych tekstów, działanie jak trochę lepsza wyszukiwarka internetowa czy rysowanie ładnych obrazków to ciągle za mało żeby to nazwać inteligencją.

        Polecam poczytać jak te ani boty radzą sobie z prostymi zadaniami z matematyki, albo z weryfikowaniem i posługiwaniem się źródłami. Tam widać jak nieudolne one są.

        • didleth@szmer.info
          link
          fedilink
          arrow-up
          1
          ·
          11 months ago

          to ciągle za mało żeby to nazwać inteligencją

          “to ciągle za mało żeby to nazwać inteligencją” - w “sztucznej inteligencji” nie chodzi o to, czy jest “inteligentna”. A to, co AI potrafi, przysparza masy problemów już w chwili obecnej