INTELIGÊNCIA ARTIFICIAL ESTÁ FORA DE CONTROLE

 

Carta aberta fala em 'dramáticas perturbações econômicas e políticas' que a tecnologia irá causar, 'especialmente para a democracia'

Amanda Graciano: ‘Uso massivo da IA irá provocar uma redução significativa de empregos                             Este texto está nos blogs: theodianobastos.blogspot.com.br e no FACEBOOK               “Parem tudo,” pedem Musk, Wozniak e centenas de líderes tech 29 de março de 2023 Elon Musk, Steve Wozniak e centenas de outros executivos de tecnologia e pesquisadores de ponta pediram hoje que os laboratórios de inteligência artificial suspendam por pelo menos seis meses o desenvolvimento de sistemas de IA que sejam mais poderosos do que o recém-lançado GPT-4.  O documento, cujo título é “Pausem os Experimentos Gigantes em IA: Uma Carta Aberta”, foi divulgado esta manhã pela Future of Life, uma instituição que tem Musk entre seus maiores financiadores.  O texto afirma que “os sistemas de IA com inteligência competitiva com a humana podem oferecer riscos profundos para a sociedade e humanidade, como demonstrado por extensiva pesquisa e reconhecido por laboratórios de ponta de IA”.  “Como foi afirmado no amplamente apoiado Princípios de Asilomar, a inteligência artificial avançada pode representar uma transformação profunda na história da vida sobre a Terra e deveria ser planejada e administrada com atenção e recursos compatíveis.”  Os Princípios de Asilomar são um conjunto de 23 diretrizes listadas em uma conferência ocorrida em 2017 na Califórnia.  De acordo com a carta, esses cuidados não estão sendo tomados: os signatários afirmam que os laboratórios de AI estão “numa corrida fora do controle para desenvolver e empregar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – conseguem compreender, prever e controlar com confiança.”  “Sistemas de IA poderosos deveriam ser desenvolvidos apenas quando tivermos a certeza de que seus efeitos serão positivos e seus riscos serão administráveis,” diz o texto.  Daí a recomendação para que o desenvolvimento de sistemas mais avançados que o GPT-4 seja suspenso imediatamente. A pausa deve durar até que se crie um protocolo global para a utilização dessa tecnologia.  Se não for possível coordenar essa suspensão temporária de maneira voluntária e verificável, os signatários recomendam que os governos atuem para “instituir uma moratória” nos experimentos.  No subtexto da carta está o temor de que a tecnologia atinja o conceito de “singularidade”, um estado em que a capacidade de processamento da máquina será superior à do cérebro humano – dando à máquina autonomia de pensamento. O conceito foi formulado pela primeira vez pelo matemático John Von Neumann e mais tarde elaborado em obras icônicas como Future Shock, escrito por Alvin Toffler em 1970, e The Age of Spiritual Machines, de Ray Kurzweil, de 1999.  Recursos de inteligência artificial já fazem parte do dia a dia das pessoas e são utilizados por empresas em todo o mundo, incluindo a Tesla de Elon Musk.  Mas a nova geração de bots e sistemas de IA que desafiam a inteligência humana elevou o grau de preocupação dos pesquisadores.  O alerta ocorre após a enorme popularidade alcançada pelo ChatGPT, criado pela OpenAI, sobretudo depois de o sistema ter sido embarcado no Bing, da Microsoft. O chatbot com “capacidade humana” foi lançado em novembro – logo suplantado pelo GPT-4, também da OpenAI, lançado este mês. O GPT-4 é um “grande modelo multimodal” que aceita imagens e textos como inputs. Ele demonstra uma performance similar à humana em diversas atividades profissionais e acadêmicas – por exemplo, passando em um simulado do exame para exercer a advocacia nos EUA.  (A nota obtida o colocou entre os 10% de melhor desempenho, enquanto o GPT-3.5 também passou na prova, mas ficou entre os 10% piores.) A OpenAI nasceu sem fins lucrativos e teve Musk entre seus fundadores. Mas em janeiro, recebeu um aporte bilionário da Microsoft, que vai investir US$ 10 bilhões na startup e passou a usar os recursos desenvolvidos pela empresas em seus programas e aplicativos. Entre as Big Techs, a Microsoft agora assumiu a dianteira em IA, empregando os seus recursos em diversos serviços e aplicativos. O Google e as big techs chinesas correm por fora – e é essa disputa que causa preocupação entre os pesquisadores.  O tema é bastante caro a Musk. Em 2015 ele já havia sido o organizador de uma outra carta aberta sobre o assunto, que contou com o apoio de Stephen Hawking e outros cientistas. O texto dizia que a IA poderia trazer grandes benefícios, mas que era preciso dar atenção a seus riscos.   A nova carta pode ser assinada por qualquer pessoa na página da internet da Future of Life. O número de apoiadores já passa de mil, incluindo nomes como Yuval Noah Harari, o escritor de professor da Hebrew University of Jerusalem; Stuart Russell – professor ciência da computação em Berkeley e diretor do Center for Intelligent Systems; Evan Sharp, o cofundador do Pinterest; Rachel Bronson, presidente do Bulletin of the Atomic Scientists; Jaan Tallinn, cofundador do Skype; e Yoshua Bengio, professor do Departamento de Ciência da Computação da Université de Montréal. 
SAIBA MAIS EM: https://braziljournal.com/inteligencia-artificial-esta-fora-do-controle-parem-tudo-pedem-musk-wozniak-e-centenas-de-lideres-tech/ .