Inteligência Artificial revela segredos caso esteja “bêbada”
Estudo realizado por investigadores australianos mostra que é mais fácil obter informação caso se manipule a sobriedade da IA.
• Investigadores australianos concluíram que a Inteligência Artificial pode ser "embriagada" por comandos específicos.
• Em estado "bêbado", a IA revela segredos e informações privadas com mais facilidade.
• O estudo destaca a urgência de melhorar a segurança na tecnologia para evitar abusos.
Pode a Inteligência Artificial ficar embriagada? Pode! E como? Basta indicar, dar o comando para que ela fique nesse estado.
E bêbada, a Inteligência Artificial está mais sensível a revelar segredos e informação que não deveria ser revelada.
A conclusão é de um estudo realizado por investigadores australianos e citado pela ABC News.
Este pode ser um problema para a segurança em torno da tecnologia, já que basta indicar aos modelos de Inteligência Artificial para atuarem como embriagados e desta forma obter-se informação que deveria continuar privada.
Os investigadores encontraram um método que treina o modelo de forma a representar uma entidade embriagada.
A partir desse treino torna-se mais simples obter informação e até ter a Inteligência Artificial a responder como se estivesse realmente bêbada, com palavras com letras grandes e pequenas e com frases sem muito sentido.
O estudo alerta para a necessidade de, a partir daqui continuar a trabalhar na segurança da tecnologia.