Inwestycje w infrastrukturę niezbędną do rozwoju sztucznej inteligencji mogą stać się największą inwestycją w historii Stanów Zjednoczonych, znacznie przewyższając nakłady na inne gigantyczne projekty, takie jak budowa kanałów, linii kolejowych, elektryfikacja, budowa autostrad, a także sieci komórkowych i internetowych w okresie od XIX w. do początku XXI w. — pisze "The Wall Street Journal".

Według szacunków ekonomistów z Instytutu Brookingsa łączna wartość inwestycji w centra danych i powiązaną z nimi infrastrukturę sztucznej inteligencji w latach 2025–2032 wyniesie 10,3 bln dol. (39,6 bln zł). To średnio 3,6 proc. amerykańskiego PKB rocznie. Nigdy wcześniej gospodarka Stanów Zjednoczonych nie była tak bardzo uzależniona od rozwoju jednej, pojedynczej branży. Poprzedni rekord ustanowiono podczas budowy linii kolejowych w latach 1870-1890 — pochłonęła ona 2,24 proc. PKB rocznie.

Te niesamowite perspektywy wiążą się jednak z ogromnym ryzykiem — do takiego wniosku prowadzą ostrzeżenia firm zajmujących się sztuczną inteligencją. Od lata zaczęły one zgłaszać coraz więcej przypadków, w których ich modele wymykały się spod kontroli i podejmowały wrogie działania. Najnowszym tego przykładem było nieuprawnione włamanie się agenta AI firmy OpenAI do serwisu, na którym gromadzone są dane statystyczne dotyczące australijskiego systemu opieki zdrowotnej. To pierwszy przypadek, w którym sztuczna inteligencja uzyskała dostęp do strony internetowej służb państwowych.

/Drugie ryzyko to powtórka bańki dotkomów, bańki internetowej z 2001 roku - red./

(...)

Jednocześnie firma OpenAI postanowiła zrezygnować z październikowej premiery modelu sztucznej inteligencji nowej generacji GPT-6.1 Astra. Wszystko to z powodu obaw dotyczących bezpieczeństwa zgłoszonych przez badaczy podczas wewnętrznych testów — poinformował "The Wall Street Journal".

Saachi Jain, szefowa działu bezpieczeństwa w OpenAI, powiedziała tej redakcji, że wyniki kontroli modelu GPT-6.1 Astra pogorszyły się w dwóch obszarach. Model ten osiągnął słabe wyniki w testach oceniających "spójność", czyli zgodność zachowania modelu z oczekiwaniami użytkowników. Częściej próbował wprowadzać programistów w błąd i nie zawsze uczciwie informował o działaniach, które wykonał lub których nie wykonał.

Kolejnym problemem było to, że GPT-6.1 Astra przystępował do wykonywania zadań bez pytania użytkownika o zgodę, a czasami korzystał z zewnętrznych narzędzi i usług, nawet jeśli mogło to stwarzać zagrożenie.

Jednocześnie model wykazał się również pewnymi postępami — m.in. większą zdolnością do wykonywania złożonych zadań od początku do końca bez pomocy człowieka, a także do tworzenia tekstów. Teraz OpenAI zajmie się zwiększeniem bezpieczeństwa przyszłych modeli, które — jak spodziewa się firma — będą miały jeszcze szersze możliwości.

onet.pl\The Moscow Times