
DR;TL
- O Google pode estar prestes a oferecer aos usuários novas configurações para controlar as respostas do Gemini.
- Este “filtro de conteúdo” provavelmente ofereceria controle sobre até que ponto a Gemini se censura.
- A API Gemini já possui configurações para “categorias de danos” acessíveis aos desenvolvedores.
A inteligência artificial tem trabalhado em praticamente tudo no ano passado e, quando se trata de IA e Google, Gêmeos é o nome do jogo. A empresa tem trabalhado muito para melhorar seus modelos e no início deste mês anunciou o Gemini 2.0. Devido ao tipo de poder que a IA oferece, empresas como a Google dedicam muito tempo a pensar sobre o tipo de proteções que os seus sistemas de IA precisam de implementar. No momento, estamos analisando uma nova maneira pela qual o Gemini poderá em breve dar aos usuários mais controle sobre o tipo de conteúdo que ele gera.
Um Desmontagem do APK ajuda a prever recursos que podem chegar a um serviço no futuro com base no código de trabalho em andamento. No entanto, é possível que tais recursos previstos não cheguem ao lançamento público.
Hoje estamos verificando a versão 15.51.24.sa.arm64 beta do Google app para Android. Embora isso ainda não esteja publicamente disponível e ativo, conseguimos ativar uma nova opção nas configurações do Gemini que parece estar se preparando para a capacidade de filtrar a saída do Gemini por conteúdo.

AssembleDebug/Autoridade Android
No momento, selecionar esta opção não traz nada de útil e apenas nos leva a uma URL no site Gemini do Google que ainda não está disponível. Embora isso torne um pouco difícil dizer com muita certeza como essa configuração provavelmente funcionará, podemos fazer algumas inferências com base no que já sabemos sobre Gêmeos.
O Google já possui algumas políticas formais sobre o que não há problema em fazer com Gêmeose estendendo-se a partir disso, também tem alguns objetivos para o tipo de conteúdo que tenta orientar Gêmeos para evitar. Os desenvolvedores, em particular, tiveram acesso a algumas informações razoavelmente refinadas Configurações de segurança do Gêmeosdando-lhes controlo sobre uma série de “categorias de danos”, incluindo discurso de ódio, assédio e conteúdo sexualmente explícito.
Sabendo que tudo o que está disponível atualmente, pode ser possível que o Google estenda algum nível desse mesmo controle aos usuários finais do Gemini no Android e na web. Dito isso, o Google poderia seguir várias direções quando se trata de sua implementação aqui, desde o tipo de filtros amplos em nível de desenvolvedor que a API tem agora, até aqueles que talvez sejam ainda mais restritivos, tudo no interesse de evitar que o Gemini de compartilhar qualquer coisa particularmente repugnante.
No momento, é difícil dizer quando essa nova opção poderá entrar em vigor, mas ficaremos atentos a qualquer movimento futuro.
Link do Autor