3 Minuty
Sztuczna inteligencja rewolucjonizuje biologię – przyspiesza opracowywanie leków oraz umożliwia projektowanie białek i sekwencji DNA na niespotykaną dotąd skalę. Jednak nowe badania red-teamingowe pokazują, że te same narzędzia mogą być wykorzystywane do generowania syntetycznych sekwencji, które omijają obecne systemy wykrywania zagrożeń DNA. To ujawnia kluczowy problem w zakresie bezpieczeństwa w biotechnologii.
Jak naukowcy sprawdzali zabezpieczenia
Zespół badaczy z Microsoft przeprowadził eksperyment hackerski, korzystając z ogólnodostępnych modeli AI do wygenerowania ponad 76 tysięcy syntetycznych wariantów niebezpiecznych białek, w tym sekwencji związanych z toksynami, jak rycyna. Zamiast syntetyzować same białka, zaprojektowali odpowiednie sekwencje genów kodujące te białka, a następnie przepuścili je przez cztery powszechnie używane programy Biosecurity Screening Software (BSS), z których korzystają producenci DNA.
Te oprogramowania analizują zgodność zgłoszonych sekwencji z bazami danych znanych zagrożeń biologicznych. Metoda sprawdza się, gdy zagrożenie jest bliskie już sklasyfikowanym przypadkom, jednak może być nieefektywna wobec celowo zmienionych sekwencji, które zachowują tę samą funkcję, jednocześnie omijając proste algorytmy wyszukiwania podobieństw.
Luki, szybkie poprawki i utrzymujące się ryzyko
Wyniki były alarmujące: duża część sekwencji opracowanych przez AI przeszła przez mechanizmy BSS bez wykrycia. W odpowiedzi na te wyniki zespół Microsoft podjął współpracę z dostawcami oprogramowania do przesiewania, aby wzmocnić bazy zagrożeń i usprawnić mechanizmy wykrywania. W kolejnych testach zaktualizowane systemy wychwyciły około 97% sekwencji o najwyższym ryzyku.
To zdecydowana poprawa, ale nie daje pełnej ochrony – blisko 3% potencjalnie niebezpiecznych projektów wciąż przeszło niezauważone. Co istotne, eksperymenty opierały się wyłącznie na symulacjach komputerowych, bez rzeczywistej produkcji białek, a więc nie można jednoznacznie ocenić faktycznego zagrożenia. Mimo to badanie jest ważnym sygnałem ostrzegawczym: wraz z rozwojem narzędzi AI do projektowania, mechanizmy obrony muszą nieustannie ewoluować i doskonalić się.
Znaczenie dla bezpieczeństwa biotechnologii
- Zdecydowana większość komercyjnych systemów przesiewania DNA polega na bazach znanych zagrożeń, przez co nowatorskie lub subtelnie zmienione sekwencje mogą pozostać niewychwycone.
- AI błyskawicznie eksploruje ogromną przestrzeń sekwencji, proponując odmiany, które zachowują szkodliwe właściwości przy jednoczesnym uniknięciu prostych filtrów wykrywających podobieństwo.
- Przeciwdziałanie będzie wymagać regularnych aktualizacji baz i algorytmów, co wywoła stałą rywalizację pomiędzy technikami ataku a systemami obrony.
Można to porównać do działania antywirusa w biologii: sygnatury pomagają, ale adaptujący się atakujący mogą w łatwy sposób ominąć statyczne zabezpieczenia. Dlatego kluczowe będą ciągłe aktualizacje, doskonalenie modelowania zagrożeń oraz współpraca między sektorem przemysłowym, naukowcami i regulatorami rynku.
Droga do odpornych mechanizmów ochrony
Specjaliści podkreślają, że konieczne jest podejście wielowarstwowe. Wzmacnianie baz danych i algorytmów to podstawa, lecz równie ważne są aktywne analizy ryzyka, testy red-teamingowe oraz transparentność między zespołami AI a zespołami ds. biobezpieczeństwa. Polityki i standardy promujące szybkie wprowadzanie poprawek, bezpieczne dzielenie się danymi oraz skuteczny nadzór mogą zminimalizować ryzyko nadużycia projektów generowanych przez AI.
Publikacja Microsoftu w czasopiśmie Science podkreśliła potrzebę czujności: AI otwiera niesamowite możliwości dla medycyny i badań, ale jednocześnie modyfikuje krajobraz zagrożeń biologicznych. Głównym wyzwaniem pozostaje zapewnienie, by narzędzia ochrony i systemy regulacyjne nadążały za tempem, w jakim rozwija się technologia.
Źródło: techxplore
Zostaw komentarz