Eleições e Sora, uma coincidência
Com a ascensão do Sora, um modelo de IA que pode criar vídeos realistas e imaginativos, a partir de instruções de texto, a OpenAi cria um novo marco na revolução tecnológica. A partir de agora, será ainda mais difícil para o grande público distinguir entre o que é real e virtual, mentira ou verdade.
Com a capacidade de criar rapidamente vídeos de até um minuto que conseguem apresentar cenas complexas, com diferentes personagens, tipos específicos de movimentos e detalhes preciosos, até mesmo do plano de fundo, o Sora acendeu o sinal de alerta nos especialistas. O motivo é óbvio: a criação rápida e barata da desinformação na Internet.
Embora ainda não esteja disponível para usuários, o aplicativo está sendo utilizado por profissionais cujos nomes não foram divulgados. São designers e cineastas, além dos que trabalham com conteúdo visual.
O anúncio do Sora ocorre simultaneamente em ano eleitoral global, afinal, não se trata apenas do pleito municipal do Brasil, mas também das eleições presidenciais nos EUA e Índia, países conhecidos por intensos embates eleitorais. Que coincidência esse Sora, não é mesmo?
Embora a tecnologia seja certamente inspiradora, também é aterrorizante devido às possibilidades que abre para a criação de todos os tipos de deepfakes com usos que vão desde pornografia de vingança até política e notícias falsas. Obviamente que, a partir do momento em que tais ferramentas são desenvolvidas, seria inútil tentar evitá-las com base no receio de possíveis abusos, uma medida que apenas resultaria na disponibilização para alguns - o que "coincidentemente" já está acontecendo.
Se há algo claro neste momento é que, mais uma vez, as big techs conseguem passar ilesas quanto à responsabilidade pela criação de tecnologias que podem até mesmo prejudicar a democracia. De novo, a cobrança pelo discernimento é cobrado do grande público que "precisa entender" que não pode acreditar em cada vídeo ou áudio que recebe pelas redes sociais.
Está muito claro que falta assumir compromissos de natureza regulatória, tecnológica e educacional. Todos os envolvidos sabem disso, mas a ação é bastante lenta frente aos avanços da inteligência artificial generativa.
O equilíbrio entre a liberdade de expressão e as utilizações claramente fraudulentas ou francamente censuráveis deve ser claro, e esse conteúdo deve ser rapidamente identificado e removido. Segundo a OpenAi, no termo de uso do Sora, apesar das extensas pesquisas e testes, não é possível prever todos os usos benéficos e maléficos do uso da tecnologia. "É por isso que acreditamos que aprender com o uso no mundo real é um componente crítico para criar e lançar sistemas de IA cada vez mais seguros ao longo do tempo", relata de forma pueril a OpenAi.
Ao que parece, estamos sendo "cobaias" de deepfakes e fake news, pagando com as nossas próprias histórias de vida o preço da desinformação. Infelizmente, em nossa sociedade, isso muitas vezes não importa, afinal, algoritmos foram desenvolvidos para manipular e capitalizar nossas vulnerabilidades, transformando experiências em simples dados a serem explorados.
Com a capacidade de criar rapidamente vídeos de até um minuto que conseguem apresentar cenas complexas, com diferentes personagens, tipos específicos de movimentos e detalhes preciosos, até mesmo do plano de fundo, o Sora acendeu o sinal de alerta nos especialistas. O motivo é óbvio: a criação rápida e barata da desinformação na Internet.
Embora ainda não esteja disponível para usuários, o aplicativo está sendo utilizado por profissionais cujos nomes não foram divulgados. São designers e cineastas, além dos que trabalham com conteúdo visual.
O anúncio do Sora ocorre simultaneamente em ano eleitoral global, afinal, não se trata apenas do pleito municipal do Brasil, mas também das eleições presidenciais nos EUA e Índia, países conhecidos por intensos embates eleitorais. Que coincidência esse Sora, não é mesmo?
Embora a tecnologia seja certamente inspiradora, também é aterrorizante devido às possibilidades que abre para a criação de todos os tipos de deepfakes com usos que vão desde pornografia de vingança até política e notícias falsas. Obviamente que, a partir do momento em que tais ferramentas são desenvolvidas, seria inútil tentar evitá-las com base no receio de possíveis abusos, uma medida que apenas resultaria na disponibilização para alguns - o que "coincidentemente" já está acontecendo.
Se há algo claro neste momento é que, mais uma vez, as big techs conseguem passar ilesas quanto à responsabilidade pela criação de tecnologias que podem até mesmo prejudicar a democracia. De novo, a cobrança pelo discernimento é cobrado do grande público que "precisa entender" que não pode acreditar em cada vídeo ou áudio que recebe pelas redes sociais.
Está muito claro que falta assumir compromissos de natureza regulatória, tecnológica e educacional. Todos os envolvidos sabem disso, mas a ação é bastante lenta frente aos avanços da inteligência artificial generativa.
O equilíbrio entre a liberdade de expressão e as utilizações claramente fraudulentas ou francamente censuráveis deve ser claro, e esse conteúdo deve ser rapidamente identificado e removido. Segundo a OpenAi, no termo de uso do Sora, apesar das extensas pesquisas e testes, não é possível prever todos os usos benéficos e maléficos do uso da tecnologia. "É por isso que acreditamos que aprender com o uso no mundo real é um componente crítico para criar e lançar sistemas de IA cada vez mais seguros ao longo do tempo", relata de forma pueril a OpenAi.
Ao que parece, estamos sendo "cobaias" de deepfakes e fake news, pagando com as nossas próprias histórias de vida o preço da desinformação. Infelizmente, em nossa sociedade, isso muitas vezes não importa, afinal, algoritmos foram desenvolvidos para manipular e capitalizar nossas vulnerabilidades, transformando experiências em simples dados a serem explorados.
Flávia Fernandes é jornalista, professora e autêntica "navegadora do conhecimento IA"
Instagram: @flaviaconteudo
Emal:
Veja mais notícias sobre Colunas.
Comentários: