Satya Nadella ostrzega przed AI. Microsoft chce przycisku awaryjnego
Szef Microsoftu Satya Nadella uważa, że firmy nie powinny bezgranicznie ufać zaawansowanym modelom sztucznej inteligencji. W nowym wpisie na X opublikowanym w sobotę zwraca uwagę na ryzyko związane z agentami AI, którym przedsiębiorstwa powierzają dostęp do poufnych danych i możliwość wykonywania ważnych operacji. Jego zdaniem potrzebne są skuteczne mechanizmy kontroli, możliwość natychmiastowego zatrzymania modelu oraz jasne zasady informowania o incydentach. To istotny głos w debacie o przyszłości AI. Im więcej zadań sztuczna inteligencja wykonuje samodzielnie, tym ważniejsze staje się nie tylko to, co potrafi, lecz także to, czy człowiek może nad nią zapanować. „Przycisk awaryjny” dla AI. Człowiek musi zachować kontrolę Najmocniejszy fragment wpisu Nadelli dotyczy możliwości przerwania działania sztucznej inteligencji w dowolnym momencie. Szef Microsoftu porównuje taki mechanizm do hamulca awaryjnego. – Pomyślmy o tym jak o hamulcu awaryjnym. Uprawniona osoba powinna zawsze mieć możliwość wstrzymania lub wyłączenia modelu w trakcie wykonywania zadania – napisał Nadella. Nie chodzi wyłącznie o przycisk, który zatrzyma chatbota. Coraz częściej AI działa jako agent, który potrafi samodzielnie realizować wieloetapowe zadania. A także korzystać z firmowych systemów, analizować dokumenty i wykonywać operacje w imieniu pracownika. Jeżeli taki system otrzyma zbyt szerokie uprawnienia albo zacznie działać niezgodnie z założeniami, firma musi móc szybko odciąć mu dostęp. Nadella podkreśla, że wraz ze wzrostem możliwości modeli trzeba rozwijać również technologie pozwalające ograniczać ich działanie. Jego zdaniem branża powinna wypracować wspólne standardy takich zabezpieczeń, zamiast pozostawiać każdej firmie samodzielne rozwiązywanie tego problemu. Microsoft chce traktować modele AI jak potencjalne zagrożenie wewnętrzne Drugi ważny element stanowiska Nadelli to zmiana podejścia do zaufania. Przedsiębiorstwa nie powinny zakładać, że model AI zawsze zachowa się zgodnie z oczekiwaniami, nawet jeśli został opracowany przez renomowanego dostawcę. Szef Microsoftu proponuje, aby zaawansowane modele — zarówno zamknięte, jak i udostępniane z otwartymi wagami — traktować pod względem bezpieczeństwa podobnie jak potencjalne zagrożenia wewnętrzne w organizacji. Nie oznacza to, że sztuczna inteligencja jest z natury złośliwa. Problem polega na tym, że może popełnić błąd, zostać wykorzystana w nieprzewidziany sposób albo uzyskać dostęp do zasobów, których nie powinna kontrolować. Nadella zwraca uwagę na fundamentalną różnicę między tradycyjnym oprogramowaniem a współczesnymi modelami AI. W klasycznym programie inżynierowie mogą często prześledzić ścieżkę kodu, która doprowadziła do konkretnego rezultatu. W przypadku złożonych modeli sztucznej inteligencji wyjaśnienie, dlaczego system podjął określoną decyzję, bywa znacznie trudniejsze. Dlatego zabezpieczenia nie mogą opierać się wyłącznie na przekonaniu, że model jest wystarczająco dobry. Trzeba ograniczać jego uprawnienia oraz kontrolować dostęp do danych. A…