Reteaua Corect

Scandalul de la OpenAI: ce este „effective altruism”

Sunt tot mai mulți oameni care cred că omenirea ar putea fi distrusă de tehnologii AI pe care tot noi, oamenii, le creăm, scrie HotNews. În multe companii care dezvoltă soft-uri de AI generativ există un conflict între cei care spun că ar trebui să avansăm cu grijă și cei care spun că trebuie să lansăm cât mai repede ce avem mai bun. Ce este „altruismul eficient”? De ce cred așa de mulți oameni în această idee?

Mișcarea numită „effective altruism” (Altruisme efficace, în franceză) a apărut în filozofie, dar după 2014 s-a răspândit în domeniul Inteligenței Artificiale.

Pe scurt, susținătorii acestei mișcări consideră că rațiunea și datele pot fi folosite ca să faci cât mai mult bine posibil. Ei au avertizat în ultimii ani că sistemele de AI devin mult prea puternice, pot scăpa de sub control și pot să pună umanitatea în fața unui risc existențial. Numărul celor care cred în această idee a explodat după succesul ChatGPT.

Susținătorii mișcării „effective altruism” spun că pot construi sisteme de AI mult mai sigure, fiindcă sunt dispuși să investească în ceea ce ei numesc „alignement”, ceea ce înseamnă că angajații pot controla 100% tehnologia pe care o dezvoltă și sunt 100% siguri că aceste tehnologii se aliniază cu un set de valori umane.

Oamenii care își exprimau fricile cum că AI-ul ne va „șterge” de pe fața Pământului sunt numiți „doomers” și erau foarte puțini, dar în ultimii ani au marșat către „mainstream”, sunt tot mai muți, au inițiat strângeri de semnături și au solicitat autorităților să ia măsuri și să pună reguli clare în dezvoltarea AI.

În „telenovela” de la OpenAI, mișcarea „effective altruism” a jucat un rol important: doi dintre membrii board-ului care l-au demis pe Sam Altman aveau legături cu grupări de „altruiști”, iar Ilya Sutskever, care ocupa funcția de „chief scientist” la OpenAI, susține ideile mișcării și inițial s-a arătat a fi opozantul nr 1 al lui Altman.

Mai mult, OpenAI, compania care în 2022 a lansat ChatGPT, a fost creată în 2015 pe baza ideilor altruismului efectiv și nu credea nimeni că OpenAI va ajunge să fie evaluată la 80 miliarde dolari. Nimeni nu ar fi bănuit atunci că OpenAI va crea și lansa unul dintre cele mai populare soft-uri.

Unul dintre cei mai mari susținători ai mișcării este „mogulul” criptomonedelor, căzut în dizgrație, Sam Bankman-Fried (a fost condamnat pentru fraudă).

Ce este „altruismul eficace”

Mișcarea effective altruism abordează pericolele asociate cu dezvoltarea inteligenței artificiale (IA). Perspectiva „effective altruism” propune o abordare rațională a gestionării riscurilor potențiale.

Mișcarea consideră că dezvoltarea IA cu capacitatea de a depăși inteligența umană ar putea prezenta riscuri existențiale. Astfel, mișcarea încurajează ideea ca cercetarea și dezvoltarea AI să fie însoțite de o atenție specială acordată siguranței și eticii.

Este încurajată dezvoltarea tehnologiilor care să asigure controlul și transparența AI, prevenind posibile consecințe negative nedorite.

Mișcarea promovează și colaborarea internațională pentru a aborda riscurile asociate AI. Se propun lucruri precum: stabilirea standardelor etice, reglementări adecvate și schimbul de informații între țări și organizații.

HotNews

Intra in discutie:
Pentru a putea intra in discutie trebuie sa fii autentificat ca utilizator CorectNews.
Daca nu ai cont, da click aici. Daca ai deja cont, da click aici.

Twitter is down for the moment!

CorectBusinessbeta

Afla tot despre business din cele 7 sectiuni ale site-ului AICI

CorectPoliticsbeta

Afla tot despre politica in cele 4 sectiuni ale site-ului AICI

CorectSocialbeta

Afla tot despre societate in cele 8 sectiuni ale site-ului AICI

CorectScITbeta

Afla tot despre stiinta din cele 5 sectiuni ale site-ului AICI

CorectSportsbeta

Afla tot despre sport din cele 9 sectiuni ale site-ului AICI

CorectLifestylebeta

Afla tot despre felul de trai din cele 7 sectiuni ale site-ului AICI

CorectArtsbeta

Afla tot despre arta in cele 6 sectiuni ale site-ului AICI

CorectDiasporabeta

Afla tot despre diaspora din cele 4 sectiuni ale site-ului AICI

CorectBooks »

Cumpara carti digitale la un pret mult mai bun decat cele clasice!

CorectBazaar »

Schimbi, vinzi si cumperi orice

Urmareste-ne pe:

© Copyright Corect 2010. Toate drepturile rezervate.