A Inteligência Artificial encontra-se cada vez mais presente no dia a dia dos utilizadores pela Internet, mas com esta surgem também algumas preocupações. Uma delas encontra-se na forma como a tecnologia pode ser usada para casos de abusos, sobretudo de menores de idade.
Existe receio de que a tecnologia de IA atualmente existente possa ser usada para criar conteúdos enganadores sobre material abusivo de menores. A pensar nisso, um grupo de empresas lideres no mercado da IA criou um grupo focado em manter a tecnologia segura contra estes usos.
OpenAI, Microsoft, Google, Meta e outras entidades juntaram-se numa nova iniciativa, focada em criar medidas para prevenir que a IA generativa seja usada para casos de abuso de menores ou de criação de material sexualmente explicito dos mesmos.
O grupo, apelidado de Thorn, irá criar regras que as plataformas devem usar para impedir e identificar quando se usa a IA para criação destes conteúdos abusivos. Ao mesmo tempo, todas as empresas participantes terão a capacidade de partilhar as tecnologias de combate a esta, bem como de usar as ferramentas criadas a partir dai.
De acordo com o comunicado da Thorn, a ideia será criar uma plataforma de base para impedir que a IA generativa seja usada contra menores de idade, ou que possa ser aproveitada para casos de abuso.
Algumas das medidas já se encontram em vigor, entre as quais regras sobre como as empresas devem treinar os seus modelos de IA. As plataformas de IA devem ter atenção aos conteúdos usados para treino de modelos de IA, de forma a evitarem conteúdos potencialmente danosos ou abusivos. Isto aplica-se também ao treino usando modelos com conteúdos para adultos, que pode ser usado para combinar a informação e ajudar na criação destes conteúdos abusivos de menores.
Algumas das empresas que se encontram ativamente a participar neste projeto já concordaram em separar os modelos de treino de conteúdos para adulto dos conteúdos de menores de idade, de forma a evitar que a IA possa usar a informação para criar imagens ou vídeos falsos no final.
Nenhum comentário
Seja o primeiro!