Datacenters, IAs e a teoria dos jogos

No começo de junho, a empresa Anthropic sugeriu uma pausa no desenvolvimento das inteligências artificiais (IAs). O medo deles é que as IAs comecem a se desenvolver sozinhas, e isso saia do controle.
Embora exista um certo racional na sugestão, ela é impossível devido à coopetição entre empresas e países, como explica a teoria dos jogos.

O modelo base se chama de ‘Dilema de prisioneiro’, que é um jogo de dois jogadores. Porém, nesse caso, prefiro explicar pela sua versão do ‘jogo da inovação’, o mesmo jogo com outra história.

Imagine dois jogadores que são empresas e elas competem por um mercado que divide meio a meio (50% para cada). Surge a possibilidade de uma inovação que custa o equivalente a 20% dos ganhos deste mercado. Se uma empresa inovar sozinha ela vai obter 100% do mercado, mas como investiu 20% para isso, ela fica com o equivalente a 80% deste. O jogo é simétrico e se a outra empresa fizer o investimento sozinha, ela fica com os 80%.

Porém, se ambas fizerem o investimento, cada uma continua com 50%, porém tendo investido 20%, resta a cada uma 30%.
Neste jogo, cada uma tem o incentivo para investir na inovação, mas se ambas investirem o resultado é pior para ambas. O resultado das duas investirem é o que ocorre se não houver combinação, e é definido como o “equilíbrio de Nash” (em homenagem a John Nash).

Neste caso, as duas empresas estão competindo, e tendem a investir a cada rodada deste jogo, num processo de “corrida tecnológica”. Entretanto, elas estão cooperando ao mesmo tempo para desenvolver a tecnologia e aumentar as barreiras de entrada contra novos jogadores. A isso denomina-se “Coopetição”, um neologismo de competir e cooperar ao mesmo tempo.

Porém, se este jogo é entre dois jogadores, ainda é possível imaginar um acordo entre eles de não investir e manter o nível tecnológico estável. Mas se o número de jogadores aumenta, vai ficando cada vez mais difícil manter tal acordo, e a tendência é que o equilíbrio de Nash predomine.

Este modelo matemático nos ajuda a entender o que está ocorrendo no mundo real nos dias de hoje como uma corrida tecnológica pelo desenvolvimento das IAs, e construção de datacenters cada vez maiores.
O equilíbrio de Nash entre os vários jogadores é de investir continuamente até o limite. E tais jogadores não são apenas empresas, mas também países.

Essa corrida irá se atenuar no futuro por conta dos retornos decrescentes. Isso levará a excesso de investimento e de capacidade, que irá se reajustar via crises, bolhas e falências, e não por acordos.