Gentoo Linux odrzuca wkład kodu generowanego przez sztuczną inteligencję i zachęca ich do separacji

Gentoo Linux odrzuca wkład kodu generowanego przez sztuczną inteligencję i zachęca ich do separacji

Dystrybucja Gentoo Linux zabrania obecnie przesyłania kodu generowanego lub wspomaganego przez sztuczną inteligencję (AI). Decyzję tę zaproponował Michał Górny, członek zarządu Gentoo, wybranej komisji odpowiedzialnej za zarządzanie tą dystrybucją. Górny opowiadał się za wprowadzeniem zakazu z trzech głównych powodów: możliwych naruszeń praw autorskich, kwestii kontroli jakości oraz względów etycznych związanych z dużym energochłonnością sztucznej inteligencji i rolą dużych firm w kształtowaniu tej technologii.

Problemy z prawami autorskimi są coraz częstsze w przypadku modeli sztucznej inteligencji, które mogą, ale nie muszą, być szkolone na materiałach chronionych prawem autorskim. Na przykład Nvidia jest jedną z ostatnich firm, które zostały pozwane. Ponadto wiadomo, że sztuczna inteligencja generuje nonsensowny tekst i kod, a nawet jest w stanie to zrobić mieć halucynacje całe pakiety oprogramowania.

Oprócz zakazania wnoszenia kodu generowanego przez sztuczną inteligencję, Górny chciał także, aby Gentoo oferowało coś wyjątkowego społeczności Linuksa.

„Myślę, że jest to obecnie dobry ruch PR dla Gentoo” – Górny powiedział The Register. „Chociaż wiele projektów jest podekscytowanych sztuczną inteligencją, myślę, że wielu użytkowników Gentoo docenia staromodne podejście do inżynierii oprogramowania, w którym ludzie są ważniejsi niż produktywność. »

Zakaz i jego propozycja miały charakter zapobiegawczy, a nie wynikały z konkretnego incydentu w społeczności Gentoo. „Zachowujemy szczególne środki ostrożności” – wyjaśnił Górny.

Stały zakaz?

Rada Gentoo omówiła propozycję Górnego 10 marca na swoim zaplanowanym comiesięcznym spotkaniu, ale nie podjęto żadnych działań, ponieważ treść zakazu nie była jeszcze gotowa, a wielu członków rady chciało omówić więcej szczegółów. Zakaz ostatecznie został przyjęty na posiedzeniu rady 14 kwietnia sześcioma głosami za, przy zerowej liczbie przeciw i jednej nieobecności podczas głosowania.

„Osobiście uważam, że jesteśmy dopiero na początku tematu” – powiedział Górny. „Myślę, że otrzymamy więcej opinii użytkowników, kiedy oficjalnie to ogłosimy i użytkownicy się o tym dowiedzą. »

Społeczność Gentoo omawiała potencjalny zakaz w wątkach e-mailowych i pokojach rozmów IRC, a Górny stwierdził, że osiągnięto konsensus co do wprowadzenia „pewnych ograniczeń”. Dzięki temu zakazowi może zachęcić więcej członków społeczności Gentoo do dzielenia się swoimi opiniami na temat sztucznej inteligencji.

Oczywiście egzekwowanie zakazu będzie trudne; jak odróżnić kod napisany przez człowieka od kodu napisanego przez maszynę? Zdaniem Górnego skuteczność zakazu nie jest tu sprawą kluczową.

„Naszym głównym celem jest wyjaśnienie, co jest akceptowalne, a co nie, oraz uprzejme poproszenie naszych autorów, aby to uszanowali” – powiedział, dodając, że zakaz sztucznej inteligencji to przede wszystkim rozszerzenie obecnych przepisów dotyczących kodu chronionego prawem autorskim.

„Jeśli otrzymamy zgłoszenia zawierające naprawdę «dziwne» błędy, które nie wydają się być spowodowane błędem ludzkim, będziemy zadawać pytania, ale myślę, że to wszystko, co możemy zrobić” – dodał Gorny.

Zakaz wyraźnie zawiera jednak klauzulę stwierdzającą, że polityka ta może zostać zmieniona w przyszłości, co jest dodatkiem, o który wyraźnie prosili niektórzy członkowie rady. „W ciągu roku wszystko może się bardzo zmienić (lub wcale), ponieważ wszystko zmienia się szybko” – powiedział członek rady Sam James.

Zarząd rozważał już wyjątek w przyszłości, w którym dozwolona byłaby sztuczna inteligencja specjalnie przeszkolona w Gentoo. To (w teorii) wyeliminowałoby problemy związane z naruszaniem praw autorskich i mogłoby potencjalnie poprawić jakość kodu. ®