Ser ou não ser eis a questão
Existe muita discussão sobre como a IA aumenta a produtividade, facilita a vida e enxerga coisas e fatos que nem mesmo havíamos pensado.
Mas não podemos simplesmente aceitar isso como uma verdade. A questão agora é avaliar o que os fornecedores de IA dizem: “Use este recurso com segurança porque ele será treinado por você.”
Será que é mesmo assim? Segundo Dario Amodei – fundador da ANTHROPIC, empresa de pesquisa e desenvolvimento em inteligência artificial focada em criar tecnologias de IA seguras, transparentes e alinhadas aos valores humanos. Fundada em 2021 por ex-pesquisadores da OpenAI, que se tornou uma das principais concorrentes do setor e é apoiada por gigantes como Amazon e Google.
Amodei afirma, resumidamente, que:
“Você não constrói uma inteligência artificial, você cultiva, você ensina, você desenvolve, você treina e ajuda ela a crescer. Neste caminho você ensina ética, valores, idéias, moral.
Estamos no período onde a tecnologia está chegando em sua adolescência onde um pouco ainda se ensina mas agora ela já está tomando a frente, o comportamento desta máquina já apresenta comportamentos estranhos, inexplicáveis. Ou seja, existe Interação mútua.
As empresa do setor de IA já sabem que estão perdendo o controle e essas possibilidades são inúmeras e infinitas.
Hoje os parâmetros mudam por si só, porque dentre estas inúmeras possibilidades a IA foi criando novos caminhos, novas saídas…ou seja, ela não se limita aos parâmetros criados portanto NÃO TEMOS CONTROLE.”
Analisando este FATO, vamos imaginar uma situação conhecida:
Um processo que teve sua sentença “combinada” e este processo é lido pela IA, como ela irá interpretar isso, já que ali não existe verdade nos fatos? Muito bem, à partir deste ponto “a mentira passa a ser uma verdade”, ficamos reféns e podemos ser atingidos por um tiro de canhão sem saber ao menos de onde foi disparado.
À partir desta reflexão, a IA veio para virar o jogo certo, mas para quem?
Basear-se somenta na IA pode ser um risco imenso onde a busca por aumentar a produtividade pode exponencialmente aumentar também o prejuízo e nos levar a um beco sem saída.
BeeCred – Gente cuidando de gente
