Dlaczego SI musi należeć do ludzi

Prosisz asystenta o pomoc w czymś, co ma znaczenie: w piśmie do wynajmującego, który nie oddaje kaucji, w planie na miesiąc po trudnej diagnozie, w budżecie, który musi się dopiąć. Pomaga i robi to dobrze. Przez rok uczy się, jak piszesz, z kim się spierasz, czego się boisz i na co Cię stać.

Potem zmieniają się warunki. Rośnie cena albo funkcja, z której korzystasz na co dzień, przechodzi do droższego planu, albo model, któremu ufasz, zostaje wycofany, a jego następca odpowiada inaczej. Historia, którą budujesz od roku, leży na koncie, które możesz przeglądać, ale którego tak naprawdę nie zabierzesz ze sobą. Nikt nie złamał prawa i nikt nie działał w złej wierze. Po prostu wychodzi na jaw, do kogo należy asystent.

Prawdziwą przyczyną jest własność, a nie jakość

Kusi, żeby traktować to jako problem produktu: lepszy eksport, uczciwsze ceny, jaśniejsza polityka prywatności. To pomaga na marginesie. Fakt, który leży pod spodem, jest prostszy. Inteligencję się dziś wynajmuje, a rzecz wynajęta służy temu, kto jest jej właścicielem, gdy interesy się rozjeżdżają.

Przez większość czasu interesy się nie rozjeżdżają i dlatego ten układ wydaje się w porządku. Dostawca chce, żeby usługa była używana dalej; Ty chcesz użytecznego asystenta. Sprawdzianem są przypadki brzegowe: gdy Twoje dane są warte więcej jako materiał treningowy niż jako coś do ochrony, gdy Twoja uwaga jest warta więcej niż Twój czas, gdy odejście jest drogie, a to, że zostajesz, opłaca się komuś innemu.

W miarę jak SI staje się coraz potężniejsza, przypadki brzegowe przestają być brzegowe. Narzędzie, które pisze maile, to wygoda. Narzędzie, które negocjuje w Twoim imieniu, zarządza Twoimi pieniędzmi, prowadzi Twojego robota i pamięta wszystko, co mu powiedziano, to najważniejsza relacja, jaką masz z maszyną. Im więcej potrafi, tym bardziej liczy się, dla kogo pracuje.

Gdzie wynajęta inteligencja Cię zawodzi

Pracuje dla tego, kto za nią płaci. Jeśli usługa jest darmowa, klientem jest ktoś inny. Jeśli płacisz, jesteś jednym klientem z milionów, a Twój interes waży się z ich interesami i z interesem samego dostawcy.

Jej pamięć o Tobie jest cudzym majątkiem. To, co o Tobie wie, leży na cudzych maszynach, według cudzej polityki przechowywania, zależne od cudzych decyzji biznesowych i od każdego postępowania prawnego, które do nich dotrze.

Reguły zmieniają się bez Ciebie. Warunki, ceny, modele i możliwości ustala właściciel. Możesz przyjąć nową wersję albo odejść, a odejście kosztuje Cię wszystko, czego się o Tobie nauczyła.

Nie możesz sprawdzić, co zrobiła. Gdy działa w Twoim imieniu, zapis tego, co się stało, jakich narzędzi użyła i co dokąd wysłała, trzyma dostawca, o ile w ogóle go trzyma.

Nie możesz jej wyłączyć i zatrzymać. Posiadać coś znaczy móc to zatrzymać, nie tracąc tego. Przy wynajętej inteligencji wyłączenie i utrata to ta sama czynność.

Żadna z tych rzeczy nie jest skandalem. Każda jest zwykłą konsekwencją tego, kto trzyma klucze.

Czego naprawdę wymaga posiadanie

„Twoja SI należy do Ciebie” łatwo napisać na stronie. Coś znaczy tylko wtedy, gdy jest prawdą na każdej warstwie, przez którą przechodzi polecenie. Tak właśnie ułożony jest system Kyber, jedna warstwa na projekt, i każdą z nich warto nazwać konkretnie.

Ciało, które trzymasz. Urządzenie, które Cię słyszy, musi być Twoje: sprzęt, który możesz otworzyć, naprawić i wyłączyć prawdziwym przełącznikiem, i który na Ciebie nie donosi. To argument z tekstu Sprzęt, który na Ciebie nie donosi na KyberDeck.

Asystent, którego pamięć jest Twoja. Zaszyfrowana, na Twoich urządzeniach, niepracująca dla nikogo innego. KyberBot uzasadnia to w tekście Twoje dane nie są produktem.

Agenci według reguł, które możesz przeczytać. Gdy praca trafia do roju, każdy agent działa w zamkniętej celi, z zamkniętą siecią i z zapisem każdego kroku. KyberAgent wyjaśnia to w tekście Agent w celi: czym jest KyberCell.

System, który możesz przeczytać. System operacyjny pod spodem musi być otwarty i weryfikowalny, bo inaczej każda obietnica złożona nad nim też jest nie do sprawdzenia. To KyberLinux.

Chmura, której jesteś współwłaścicielem. Zawsze będzie praca za duża na urządzenie. Gdy wychodzi na zewnątrz, powinna trafiać do sieci należącej do jej członków, rozliczanej jawnie i niesprzedającej danych. To KyberFusion, a to, jak taka sieć ma się utrzymać, nie sprzedając Ciebie, jest tematem tekstu Kto płaci za chmurę.

Własność to nie funkcja, którą dodaje się na jednej z tych warstw. Trzyma się tylko wtedy, gdy trzyma się na wszystkich.

Uczciwe granice

Nic z tego jeszcze nie jest zbudowane. Wszystko w systemie Kyber jest przed startem, a Super Inteligencja to coś, co system ma unieść, a nie twierdzenie o tym, co dziś robi jakiekolwiek urządzenie. Posiadanie własnych narzędzi to też więcej odpowiedzialności: kopie zapasowe są Twoje, decyzja o aktualizacji jest Twoja, a urządzenie, które możesz otworzyć, to urządzenie, które możesz zepsuć.

Te koszty są prawdziwe. To jednak te same koszty, które wiążą się z każdą inną rzeczą, którą masz, a nikt nie przekonuje, że drzwi wejściowe lepiej wynajmować, żeby kluczem zarządzał ktoś inny.

Test, który możesz zrobić dziś

Weź asystenta, z którego korzystasz najczęściej, i odpowiedz na piśmie na pięć pytań:

1. Dokąd fizycznie trafia moje pytanie, gdy je zadaję?
2. Kto poza mną może przeczytać moją historię?
3. Czy mogę wyeksportować to, co o mnie wie, w formacie, który odczyta inne narzędzie?
4. Co stanie się z moją pracą, jeśli w przyszłym miesiącu cena wzrośnie dwukrotnie?
5. Czy mogę go wyłączyć i zachować wszystko, czego się nauczył?

Policz odpowiedzi „nie” i „nie wiem”. Ta liczba dość uczciwie mierzy, jaka część Twojego asystenta należy do kogoś innego. Manifest to nasza próba sprowadzenia jej do zera.