Em meio a toda a conversa de ferramentas generativas de IA, agentes e robôs autônomos no sul pelo sudoeste, o inventor da rede mundial levantou um ponto simples com o qual os desenvolvedores terão que lidar se a visão da IA em todos os lugares for ganhar vida.
“A questão é: para quem funciona?” Tim Berners-Lee disse na terça-feira durante um painel focado em robótica na conferência de Austin, Texas.
A confiança em sistemas de IA, como chatbots, tem sido um ponto focal de discussões na SXSW este ano. Isso inclui conversas sobre o uso de dados sintéticos e maneiras de regular a indústria de IA.
A pergunta de Berners-Lee levou ao coração da questão: uma empresa pode tornar seus modelos de IA confiáveis, precisos e imparciais. Mas como eles foram criados por grandes corporações, sempre haverá a questão de saber se elas têm o interesse do fabricante ou do usuário no coração.
Ele fez uma comparação com médicos e advogados. Seu médico pode ser empregado por uma universidade, sistema de saúde ou prática, mas eles têm o dever de trabalhar do seu interesse. Seu advogado também tem o dever de fazer o que é do seu interesse. Mas um assistente de IA que está ajudando você a planejar férias ou pedir produtos? Pode ser treinado para empurrá -lo para melhorar a linha de fundo de seu fabricante.
“Quero que o AIS trabalhe para fazer as escolhas que quero fazer”, disse Berners-Lee. “Eu não quero uma IA que está tentando me vender alguma coisa.”
Se você pedir a um assistente de IA para obter o melhor negócio em alguma coisa, ele recebe o melhor negócio para você ou o melhor negócio para isso? Sentado em um painel de especialistas em robótica, Berners-Lee os desafiou a considerar possíveis conflitos de interesse.
“Sempre pergunte a uma IA ‘, para quem você trabalha?'”, Ele disse. “Quais interesses melhores você está buscando em seus interesses e suas decisões?”
Lições da teia inicial
Os Berners-Lee compararam o ambiente atual em torno da inteligência artificial com o amanhecer da World Wide Web no início dos anos 90. Naquela época, empresas como Microsoft e Netscape se uniram com pesquisadores e ativistas para formar o World Wide Web Consortiumou W3C, para criar a infraestrutura da Internet aberta.
“Todas essas empresas estavam construindo a teia juntos, e nós chegamos juntos”, disse ele.
Essa colaboração não está acontecendo hoje na IA generativa, disse Berners-Lee. Ele vê empresas competindo e tentando correr umas às outras para “superinteligência”, mas nenhuma organização comparável aos padrões de estabelecimento do W3C. Ele sugeriu que os desenvolvedores de IA criam um grupo semelhante ou algo como o CERN, o Laboratório de Pesquisa Nuclear Intergovernamental na Europa.
“Temos isso para a física nuclear”, disse Berners-Lee. “Nós não temos para ai.”
