Blaski i cienie AI

Od czasu wynalezienia maszyny różnicowej, rozwojem IT rządzą niepodzielnie 3 siły. Pierwszą z nich są interfejsy dostępowe, czyli sposób komunikacji technologii z człowiekiem, który z roku na rok jest coraz bardziej dostosowany do naszych potrzeb i wzbogacany nowymi doświadczeniami. Drugą siłą są szeroko pojęte dane i możliwość ich wykorzystania w każdej postaci, w różnych obszarach działania organizacji. Trzecia siła to moc obliczeniowa, czyli zapewnienie jak najlepszego, najszybszego i najtańszego przetwarzania.

Oprócz tych trzech czynników, trzeba pamiętać o fundamentach IT, które muszą dotrzymać kroku rozwojowi interfejsów, danych i mocy obliczeniowej. Są to bezpieczeństwo, zarządzanie obszarem technologii oraz modernizacja technologii „legacy”.

Zobacz również:

Dane: GenAI jako katalizator wzrostu

W 2024 r. zdecydowanym zwycięzcą wśród sił napędzających rozwój technologii są dane. A to wszystko za sprawą kierunku wyznaczonego przez premierę ChatGPT. Od listopada 2022 r., czyli od momentu jego pojawienia się na rynku, agendy wszystkich konferencji technologicznych i biznesowych aż huczą od hasła GenAI. Już po 60 dniach od premiery, firma OpenAI ogłosiła, że z ChatGPT korzysta 100 milionów użytkowników.

Z technologicznego punktu widzenia generatywna sztuczna inteligencja to po prostu kolejny rozdział w trwającej historii informacji – systemy uczenia maszynowego, automatyzujące powtarzalne czynności, wykorzystywane są od dziesięcioleci, teraz nadeszła pora na automatyzację poznawczą.

Jednak z biznesowego punktu widzenia, pojawienie się rozwiązań takich jak ChatGPT zdemokratyzowało dostęp do tej technologii i stworzyło potencjał do zasadniczej zmiany sposobu działania przedsiębiorstwa. Według badań firmy Gartner – do 2026 r. ponad 80% przedsiębiorstw będzie korzystać z interfejsów programistycznych, modeli i aplikacji obsługujących GenAI w środowiskach produkcyjnych (dla porównania, w 2023 r. było to mniej niż 5%). Z kolei autorzy raportu „Potencjał gospodarczy generatywnej sztucznej inteligencji” szacują, że wykorzystanie GenAI może zwiększyć wartość globalnej gospodarki nawet o ponad 7 bilionów dolarów.

Jak zatem przyczynić się do tego wzrostu? Wciąż wielu liderów biznesowych postrzega GenAI głównie jako sposób na obniżenie kosztów – z perspektywy automatyzacji czynności ludzkich i optymalizacji miejsc pracy. Aż 35% respondentów „The State of Generative AI in the Enterprise” oczekuje, że generatywna sztuczna inteligencja pozwoli im na redukcję kosztów. Jednak prawdziwa wartość tkwi nie w zastępowaniu ludzi, ale w wyposażeniu ich w narzędzia, które pomogą im się rozwijać i zwiększać produktywność, wiedzę i kreatywność, co z kolei będzie stymulować wzrost przedsiębiorstwa. Przykłady można mnożyć – od środowiska developerskiego, gdzie rozwiązania wykorzystujące GenAI mogą analizować informację zwrotną od użytkowników, tworzyć scenariusze testowe, generować lub optymalizować kod oprogramowania – po obsługę klienta, gdzie na podstawie danych o klientach i trendach rynkowych technologie te mogą pomagać w personalizacji komunikacji, rozwiązywaniu zgłaszanych problemów, analizie potrzeb czy dopasowaniu produktów. Oczywiście wszelkie zastosowania GenAI wymagają dostępności danych, których jakość musi pozwalać na uczenie modeli i budowanie bazy wiedzy oraz odpowiedniego ładu i standardów w organizacji, aby zapewnić bezpieczeństwo i zgodność z regulacjami.

Bezpieczeństwo: Prawda w dobie syntetycznych mediów

Demokratyzacja GenAI ma też swoje minusy – dostęp do technologii mają nie tylko przedsiębiorstwa i organizacje, które chcą wykorzystać ją uczciwie, ale również „cyfrowi piraci”. Sztucznie generowane treści, napędzane szybkim postępem w dziedzinie GenAI, osiągnęły punkt, w którym ludzie niemal nie są w stanie oddzielić tego co rzeczywiste, od tego, co zostało wygenerowane komputerowo. To daje przestępcom nowe możliwości. Zwiększenie skali przestępstw, zwiększenie skuteczności ataków, podszywanie się pod innych przy pomocy deepfake, ataki na rozwiązania AI działające w firmie – to tylko niektóre z nich.

Wciąż wielu liderów biznesowych postrzega GenAI głównie jako sposób na obniżenie kosztów – z perspektywy automatyzacji czynności ludzkich i optymalizacji miejsc pracy. Aż 35% respondentów „The State of Generative AI in the Enterprise” oczekuje, że generatywna sztuczna inteligencja pozwoli im na redukcję kosztów. Jednak prawdziwa wartość tkwi nie w zastępowaniu ludzi, ale w wyposażeniu ich w narzędzia, które pomogą im się rozwijać i zwiększać produktywność, wiedzę i kreatywność, co z kolei będzie stymulować wzrost przedsiębiorstwa

Demokratyzacja narzędzi GenAI zwiększa dostępność działalności przestępczej dla przeciętnego użytkownika komputera i przyspiesza tworzenie oprogramowania, które ma służyć do cyberataków czy do przeprowadzenia całej „kampanii” cyfrowych przestępstw. Najbardziej popularnym rodzajem cyberataku jest phishing, którego roczne koszty szacuje się w miliardach dolarów. Dotychczasowe ataki phishingowe były zazwyczaj bardzo generyczne i nastawione na nieuwagę odbiorcy – twórcy koncentrowali się na dużej liczbie wysłanych wiadomości, nie na ich jakości. Treści często zawierały błędy ortograficzne, gramatyczne czy stylistyczne, nie były też dostosowane do specyfiki odbiorcy. Wraz z generatywną sztuczną inteligencją, oszustom będzie łatwiej tworzyć treści poprawne językowo, dostosowane do kontekstu czy spersonalizowane na bazie informacji dostępnych w mediach społecznościowych.

Kolejny obszar cyberprzestępczości, który skorzystał na dostępności GenAI to deepfake, czyli technika obróbki treści multimedialnych, polegająca na łączeniu oryginalnych materiałów z obrazami wygenerowanymi komputerowo, np. na zastąpieniu twarzy jednej osoby inną. Do niedawna treści utworzone w ten sposób nie były wystarczająco dobre, aby wykorzystywać je na dużą skalę. Jednak GenAI daje zupełnie nowe możliwości. W 2022 roku FBI ostrzegało o fałszywych danych i deepfake’ach osób biorących udział w procesach rekrutacyjnych do IT. Inny przykład to podszywanie się pod znaną nam osobę (np. prezesa zarządu), aby wymusić nielegalną transakcję finansową. Deepfake pozwala również na ominięcie biometrycznej kontroli dostępu (rozpoznanie głosu czy twarzy), a co za tym idzie – może otworzyć bramy przedsiębiorstwa dla przestępców.

Również sam wyścig w wykorzystaniu GenAI w firmach stwarza wiele zagrożeń. Najprostszym z nich jest tzw. prompt injection, czyli technika wprowadzania dodatkowej instrukcji do podpowiedzi chata, aby wpłynąć na generowaną odpowiedź. Pozwala to zmusić model do np. przekazania nam danych, które są poufne. W sieci istnieją społeczności, które na bieżąco starają się szukać luk i sposobów na złamanie ChatGPT, Gemini czy innych rozwiązań GenAI.

Jak się zatem bronić? Powstaje wiele rozwiązań bezpieczeństwa wykorzystujących GenAI do analizy autentyczności treści. Oczekuje się również, że generatywna sztuczna inteligencja pomoże w przewidywaniu rodzaju cyberataków, przed którym mogą stanąć przedsiębiorstwa.

Jednak same rozwiązania technologiczne nie wystarczą. Bardzo ważne jest budowanie świadomości wśród pracowników i klientów, a przez to zachowanie większej ostrożności w komunikacji zdalnej, sprawdzanie adresów, z których pochodzą wiadomości czy weryfikacja tożsamości osób, z którymi rozmawiamy. Świadomość wymagana jest również wśród osób zarządzających obszarem technologii w firmie – konieczna jest znajomość najnowszych technik ataków oraz metod ochrony przed nimi. Cyberbezpieczeństwo to obszar, w którym trwa ciągły wyścig pomiędzy specjalistami chroniącymi zasoby przedsiębiorstwa a tymi, którzy próbują je wykraść.

Zarządzanie IT: od DevOps do DevEX

Wykorzystanie przez przedsiębiorstwa nowoczesnych technologii jest niemożliwe bez inżynierów. Przewiduje się, że liczba programistów osiągnie w najbliższych miesiącach prawie 29 milionów osób – więcej niż wynosi populacja Australii, a mimo to niedobory wykwalifikowanych pracowników są jednym z największych zagrożeń dla biznesu, zaraz po zagrożeniach gospodarczych.

Może strategią rozwoju i adopcji nowych technologii nie powinno być jedynie ciągłe zwiększanie zatrudnienia, a efektywne wykorzystanie pracy obecnych inżynierów? W większości organizacji produktywność programistów jest daleka od ideału – ocenia się, że spędzają oni jedynie 30%-40% czasu na tworzeniu oprogramowania. Pozostały czas to obsługa długu technologicznego i architektonicznego, konfiguracja i integracja narzędzi, spotkania i praca administracyjna. Wystarczy policzyć koszt tej nieefektywności, aby uświadomić sobie, że dużo więcej zyskamy poprawiając ten stan niż zatrudniając nowych developerów.

Jak zatem zwiększyć efektywność ich pracy? Podstawą są ramy pracy zespołów wytwórczych, które uwzględniają trzy aspekty: platformy i narzędzia, organizacja pracy oraz doświadczenia programistów jako pracowników.

Według badań Harvard Business Review pracownicy, którzy czują, że mają technologię wspierającą ich pracę są o 230% bardziej zaangażowani, a prawdopodobieństwo pozostania przez nich w pracy dłużej niż 3 lata jest wyższe o 85%. Z kolei badania firmy Forrester pokazują, że wprowadzenie platform developerskich (IDPs – internal developer platforms) znacząco poprawia produktywność programistów (74% respondentów) i pomaga zarówno w ich rekrutacji, jak i w zatrzymaniu w firmie (81% respondentów). To przekłada się również na inne wskaźniki biznesowe, takie jak czas dostarczania (time to market), satysfakcja klientów czy rentowność. Oprócz narzędzi konieczne jest też odpowiednie zarządzanie architekturą przedsiębiorstwa – modularyzacja, zapewnienie łatwości utrzymania, praktyki minimalizujące powstawanie i pogłębianie długu technologicznego.

Drugim obszarem, o który należy zadbać jest właściwa organizacja pracy. Według State of Agile Report i Deloitte Agile Maturity Survey jedynie 41% organizacji na świecie i 24% w Polsce korzysta ze skalowanych metod zwinnych, które zapewniają lepszą współpracę międzyfunkcyjną, poprawiają szybkość dostarczania i jakość produktów. Oznacza to, że możemy osiągnąć znaczący zysk już przez samo wprowadzenie w organizacji zwinności i podejścia DevOps. Dalszą poprawę w tym zakresie mogą przynieść akceleratory (np. narzędzia AI wspierające proces projektowania, tworzenia czy testowania oprogramowania) oraz proces obejmujący cały cykl życia oprogramowania nie tylko w fazie wytwarzania kodu, ale również ciągłego sprawdzania jego poprawności, podatności, wydajności czy zapewnienia bezprzerwowych wdrożeń i przywracania kodu.

Trzeci obszar to zarządzanie doświadczeniami inżynierów jako pracowników – zapewnienie zróżnicowanego, produktywnego środowiska pracy, możliwości ciągłej nauki nowych umiejętności i technologii oraz ścieżek rozwoju i awansów, dostosowanych do profilu specjalistów IT.

Autorzy raportu „Tech Trends 2024” podkreślają, że dzięki platformom nisko-kodowym czy rozwiązaniom GenAI, które zmniejszają barierę w tworzeniu rozwiązań IT, w ciągu najbliższych lat każdy pracownik stanie się pracownikiem technologicznym. Zatem fundamenty DevEx, które stworzymy dla programistów będą miały szerokie zastosowanie w całej organizacji.

Anna Wiącek-Kocot, partnerka w Zespole Strategii i Transformacji IT, Deloitte

Artykuł opracowany na podstawie raportu Deloitte „Tech Trends 2024”.

Zgłoś naruszenie/Błąd