Agenty AI wchodzą do naszego życia
Dostępność nie może być zadaniem jednego specjalisty — potrzebuje ownera po stronie produktu.
Bum! Agenty AI wchodzą do naszego życia. Nowi asystenci zakupowi AI doradzają w zakupach, pomagają w wyborze, wyszukują oferty, porównują ceny, pokazują trendy, realizują płatności, a nawet śledzą paczki. Jednym słowem wykonują całe procesy użytkownika.
I tu rodzi się pytanie o intencję. Intencję agentów AI. Pisałem o tym w publikacji „Ruch 37”, opisując sześć fundamentów, które określają relacje między człowiekiem a systemem AI, który działa autonomicznie i podejmuje działania w imieniu użytkownika.
Przez lata żyliśmy w świecie, w którym to użytkownik inicjował działanie i miał kontrolę nad całym procesem. Dzisiaj system przewiduje, analizuje, rekomenduje, zawęża możliwości i prowadzi użytkownika przez proces, który staje się coraz mniej transparentny.
W świecie agentów AI intencja już nie jest wyłącznie ludzka. Staje się wynikiem interakcji z systemem. I właśnie tutaj zaczyna się problem, jeżeli system wyszukuje za nas i proponuje najlepszą opcję. Gdzie dokładnie znajduje się moment naszej decyzji? Czy jest nim początkowa potrzeba? Czy końcowe potwierdzenie? A może decyzja została już podjęta wcześniej w logice systemu?
Użytkownik nie wie już, dlaczego coś się wydarzyło. Nie wie, jakie były alternatywy dla podjęcia takiej a nie innej propozycji zakupowej. Nie wie, czy wybór był jego, czy został mu zasugerowany w sposób, którego nie potrafi zidentyfikować.
Systemy AI nie są neutralne. Optymalizują. Działają według określonych celów: skrócenia ścieżki, zwiększenia konwersji, maksymalizacji efektywności. Ich rekomendacje zawsze mają jakiś kontekst, czy to ekonomiczny, logistyczny czy biznesowy.
Pytanie, czy użytkownik ten kontekst widzi i rozumie?
Jeżeli nie, oznacza to, że stracił kontrolę a jego sprawczość jest iluzoryczna. Może podejmować decyzje, ale nie wie, na jakiej podstawie. Może wybierać, ale nie zna pełnego zestawu możliwości.
Właśnie dlatego w publikacji „Ruch 37” intencja pojawia się jako pierwszy fundament. Bez niej nie ma zaufania, kontroli i odpowiedzialności.