Publicado originalmente por MIT Technology Review
Até o final de novembro, quando a saga épica do colapso do conselho da OpenAI se desenrolou, o observador casual poderia ser perdoado por supor que a indústria em torno da IA generativa era um ecossistema competitivo vibrante.
Mas esse não é o caso — nem nunca foi. E entender o porquê é fundamental para entender o que é IA e quais ameaças ela representa. Simplificando, no contexto do paradigma atual de construção de sistemas de IA cada vez maiores, não há IA sem Big Tech. Com pouquíssimas exceções, cada startup, novato e até mesmo laboratório de pesquisa de IA depende dessas empresas. Todos dependem da infraestrutura de computação da Microsoft, Amazon e Google para treinar seus sistemas e do vasto alcance de mercado consumidor dessas mesmas empresas para implantar e vender seus produtos de IA.
De fato, muitas startups simplesmente licenciam e renomeiam modelos de IA criados e vendidos por essas gigantes da tecnologia ou suas startups parceiras. Isso ocorre porque grandes empresas de tecnologia acumularam vantagens significativas na última década. Graças ao domínio da plataforma e às propriedades de auto-reforço do modelo de negócios de vigilância, elas possuem e controlam os ingredientes necessários para desenvolver e implementar IA em larga escala. Elas também moldam as estruturas de incentivo para o campo de pesquisa e desenvolvimento em IA, definindo o presente e o futuro da tecnologia.
A recente saga OpenAI, na qual a Microsoft exerceu seu domínio silencioso, mas firme, sobre a entidade “lucro limitado”, fornece uma demonstração poderosa do que temos analisado na última meia década. A saber: aqueles com dinheiro fazem as regras. E agora, eles estão envolvidos em uma corrida para o fundo, lançando sistemas antes que estejam prontos em uma tentativa de manter sua posição dominante.
O poder concentrado não é apenas um problema para os mercados. Depender de alguns atores corporativos irresponsáveis para infraestrutura central é um problema para a democracia, cultura e agência individual e coletiva. Sem intervenção significativa, o mercado de IA acabará apenas recompensando e consolidando as mesmas empresas que colheram os lucros do modelo de negócios de vigilância invasiva que impulsionou a internet comercial, muitas vezes às custas do público.
O escândalo da Cambridge Analytica foi apenas um entre muitos que expuseram essa realidade sórdida. Essa concentração também cria pontos únicos de falha, o que levanta ameaças reais à segurança. E o presidente da Securities and Exchange Commission, Gary Gensler, alertou que ter um pequeno número de modelos e atores de IA na base do ecossistema de IA representa riscos sistêmicos para a ordem financeira, em que os efeitos de uma única falha podem ser distribuídos muito mais amplamente…
Veja o artigo completo no site MIT Technology Review