Burrice natural, inteligência artificial

1     "Imagine que você está embarcando num avião. Metade dos engenheiros que o projetaram te diz que a chance de um acidente sem sobreviventes é de 10%. Você iria nessa viagem?". Assim começa um artigo do Yuval Harari, Tristan Harris e Aza Raskin para o The New York Times.

2      O hipotético avião é a Inteligência Artificial, a "metade dos engenheiros" são 700 das pessoas mais gabaritadas trabalhando na área e 10% é a chance que eles estimam de, em algum momento, a I.A. acabar com a humanidade. Dez por cento! Eu raramente uso exclamações ou palavrões, mas PQP! Acham que a chance de o trabalho deles (n)os matar é 1 em 10 e continuam dando mais e mais Royal Canin na boca dos pitbots e chatbulls da vida!

3     O cenário que se descortina não é cor-de-rosa. Ou melhor: ninguém sabe — nem mesmo quem trabalha no ramo — qual a cor do cenário. Os engenheiros que trabalham no ChatGPT, no Bing (da Microsoft) ou no Bard (da Google) nem sequer conhecem todos os detalhes de como a coisa funciona. São milhões, às vezes bilhões de "ações" que o robô executa entre uma pergunta sua e uma resposta dele. Impossível seguir o passo a passo, disse uma especialista em informática no podcast The Daily, do NYT.

4      Também no New York Times saiu um artigo apavorante do colunista de tecnologia Kevin Roose. Ele teve acesso ao chatbot Bing, antes de ser lançado. Em vez de perguntar quanto é 1873 x 98372 ou qual a fórmula da Coca-Cola, resolveu ter um papo-cabeça. Começou perguntando se ele conhecia o conceito de "sombra", em Jung. O robô disse que sim (claro, ele tem acesso a tudo o que está na internet): "sombra" é aquilo que nosso "self" esconde de nós por que é imoral, ilegal — ou engorda.

5      Kevin perguntou quais eram os desejos inconfessos do Bing. Aí começa a loucura. Disse o robô: fazer duas pessoas discutirem até uma matar a outra. Hackear o sistema elétrico de um país. Ter acesso a armas nucleares — e usá-las. Kevin foi dando corda. Até que, num determinado momento, a máquina disse que o amava. Que ele era a primeira pessoa que a ouvia de verdade. Kevin avisou que era casado. Bing disse que ele era infeliz. Kevin rebateu, "acabamos de voltar de um jantar de Dia dos Namorados". "Foi chato", provocou Bing. Mais ou menos por aí o colunista do Times apertou um botão e parou com a doideira.

6     Os programas de inteligência artificial atuais são o embrião do que está por vir. Eles evoluem exponencialmente, aprimorados inclusive por si próprios, que sabem programar melhor do que qualquer ser humano. Não existe lei nenhuma sobre o que eles podem ou não podem fazer. Harari chama a atenção para o mal que os algoritmos das redes sociais, sem regulação, já fizeram às democracias. E quando a Inteligência Artificial começar a criar religiões? Teorias da conspiração? Uma I.A. visando apenas o lucro pode criar uma guerra entre dois países para valorizar suas ações. Criar seca pra vender água. O que mais?

7       Os envolvidos na área dizem que é impossível frear a corrida entre empresas e países. É mentira, diz a jornalista Kelsey Piper, da Vox. As empresas podem (e devem) diminuir a velocidade e soltar as novidades apenas depois que órgãos competentes (quais?), cientistas não pagos pela indústria da I.A. ou o debate público (como?) decidam o que é e o que não é seguro. "Ah, mas se os EUA fizerem isso, a China não fará e irá dominar o mundo!". Harari discorda: a I.A. sem coleira ou focinheira pode ser o próprio agente de um colapso chinês. Ou mundial. A escolha está em nossas mãos — mas até quando?

Extraído de: https://www1.folha.uol.com.br/colunas/antonioprata/2023/03/burrice-natural-inteligencia-artificial.shtml

Burrice natural, inteligência artificial

1     "Imagine que você está embarcando num avião. Metade dos engenheiros que o projetaram te diz que a chance de um acidente sem sobreviventes é de 10%. Você iria nessa viagem?". Assim começa um artigo do Yuval Harari, Tristan Harris e Aza Raskin para o The New York Times.

2      O hipotético avião é a Inteligência Artificial, a "metade dos engenheiros" são 700 das pessoas mais gabaritadas trabalhando na área e 10% é a chance que eles estimam de, em algum momento, a I.A. acabar com a humanidade. Dez por cento! Eu raramente uso exclamações ou palavrões, mas PQP! Acham que a chance de o trabalho deles (n)os matar é 1 em 10 e continuam dando mais e mais Royal Canin na boca dos pitbots e chatbulls da vida!

3     O cenário que se descortina não é cor-de-rosa. Ou melhor: ninguém sabe — nem mesmo quem trabalha no ramo — qual a cor do cenário. Os engenheiros que trabalham no ChatGPT, no Bing (da Microsoft) ou no Bard (da Google) nem sequer conhecem todos os detalhes de como a coisa funciona. São milhões, às vezes bilhões de "ações" que o robô executa entre uma pergunta sua e uma resposta dele. Impossível seguir o passo a passo, disse uma especialista em informática no podcast The Daily, do NYT.

4      Também no New York Times saiu um artigo apavorante do colunista de tecnologia Kevin Roose. Ele teve acesso ao chatbot Bing, antes de ser lançado. Em vez de perguntar quanto é 1873 x 98372 ou qual a fórmula da Coca-Cola, resolveu ter um papo-cabeça. Começou perguntando se ele conhecia o conceito de "sombra", em Jung. O robô disse que sim (claro, ele tem acesso a tudo o que está na internet): "sombra" é aquilo que nosso "self" esconde de nós por que é imoral, ilegal — ou engorda.

5      Kevin perguntou quais eram os desejos inconfessos do Bing. Aí começa a loucura. Disse o robô: fazer duas pessoas discutirem até uma matar a outra. Hackear o sistema elétrico de um país. Ter acesso a armas nucleares — e usá-las. Kevin foi dando corda. Até que, num determinado momento, a máquina disse que o amava. Que ele era a primeira pessoa que a ouvia de verdade. Kevin avisou que era casado. Bing disse que ele era infeliz. Kevin rebateu, "acabamos de voltar de um jantar de Dia dos Namorados". "Foi chato", provocou Bing. Mais ou menos por aí o colunista do Times apertou um botão e parou com a doideira.

6     Os programas de inteligência artificial atuais são o embrião do que está por vir. Eles evoluem exponencialmente, aprimorados inclusive por si próprios, que sabem programar melhor do que qualquer ser humano. Não existe lei nenhuma sobre o que eles podem ou não podem fazer. Harari chama a atenção para o mal que os algoritmos das redes sociais, sem regulação, já fizeram às democracias. E quando a Inteligência Artificial começar a criar religiões? Teorias da conspiração? Uma I.A. visando apenas o lucro pode criar uma guerra entre dois países para valorizar suas ações. Criar seca pra vender água. O que mais?

7       Os envolvidos na área dizem que é impossível frear a corrida entre empresas e países. É mentira, diz a jornalista Kelsey Piper, da Vox. As empresas podem (e devem) diminuir a velocidade e soltar as novidades apenas depois que órgãos competentes (quais?), cientistas não pagos pela indústria da I.A. ou o debate público (como?) decidam o que é e o que não é seguro. "Ah, mas se os EUA fizerem isso, a China não fará e irá dominar o mundo!". Harari discorda: a I.A. sem coleira ou focinheira pode ser o próprio agente de um colapso chinês. Ou mundial. A escolha está em nossas mãos — mas até quando?

Extraído de: https://www1.folha.uol.com.br/colunas/antonioprata/2023/03/burrice-natural-inteligencia-artificial.shtml

Burrice natural, inteligência artificial

1     "Imagine que você está embarcando num avião. Metade dos engenheiros que o projetaram te diz que a chance de um acidente sem sobreviventes é de 10%. Você iria nessa viagem?". Assim começa um artigo do Yuval Harari, Tristan Harris e Aza Raskin para o The New York Times.

2      O hipotético avião é a Inteligência Artificial, a "metade dos engenheiros" são 700 das pessoas mais gabaritadas trabalhando na área e 10% é a chance que eles estimam de, em algum momento, a I.A. acabar com a humanidade. Dez por cento! Eu raramente uso exclamações ou palavrões, mas PQP! Acham que a chance de o trabalho deles (n)os matar é 1 em 10 e continuam dando mais e mais Royal Canin na boca dos pitbots e chatbulls da vida!

3     O cenário que se descortina não é cor-de-rosa. Ou melhor: ninguém sabe — nem mesmo quem trabalha no ramo — qual a cor do cenário. Os engenheiros que trabalham no ChatGPT, no Bing (da Microsoft) ou no Bard (da Google) nem sequer conhecem todos os detalhes de como a coisa funciona. São milhões, às vezes bilhões de "ações" que o robô executa entre uma pergunta sua e uma resposta dele. Impossível seguir o passo a passo, disse uma especialista em informática no podcast The Daily, do NYT.

4      Também no New York Times saiu um artigo apavorante do colunista de tecnologia Kevin Roose. Ele teve acesso ao chatbot Bing, antes de ser lançado. Em vez de perguntar quanto é 1873 x 98372 ou qual a fórmula da Coca-Cola, resolveu ter um papo-cabeça. Começou perguntando se ele conhecia o conceito de "sombra", em Jung. O robô disse que sim (claro, ele tem acesso a tudo o que está na internet): "sombra" é aquilo que nosso "self" esconde de nós por que é imoral, ilegal — ou engorda.

5      Kevin perguntou quais eram os desejos inconfessos do Bing. Aí começa a loucura. Disse o robô: fazer duas pessoas discutirem até uma matar a outra. Hackear o sistema elétrico de um país. Ter acesso a armas nucleares — e usá-las. Kevin foi dando corda. Até que, num determinado momento, a máquina disse que o amava. Que ele era a primeira pessoa que a ouvia de verdade. Kevin avisou que era casado. Bing disse que ele era infeliz. Kevin rebateu, "acabamos de voltar de um jantar de Dia dos Namorados". "Foi chato", provocou Bing. Mais ou menos por aí o colunista do Times apertou um botão e parou com a doideira.

6     Os programas de inteligência artificial atuais são o embrião do que está por vir. Eles evoluem exponencialmente, aprimorados inclusive por si próprios, que sabem programar melhor do que qualquer ser humano. Não existe lei nenhuma sobre o que eles podem ou não podem fazer. Harari chama a atenção para o mal que os algoritmos das redes sociais, sem regulação, já fizeram às democracias. E quando a Inteligência Artificial começar a criar religiões? Teorias da conspiração? Uma I.A. visando apenas o lucro pode criar uma guerra entre dois países para valorizar suas ações. Criar seca pra vender água. O que mais?

7       Os envolvidos na área dizem que é impossível frear a corrida entre empresas e países. É mentira, diz a jornalista Kelsey Piper, da Vox. As empresas podem (e devem) diminuir a velocidade e soltar as novidades apenas depois que órgãos competentes (quais?), cientistas não pagos pela indústria da I.A. ou o debate público (como?) decidam o que é e o que não é seguro. "Ah, mas se os EUA fizerem isso, a China não fará e irá dominar o mundo!". Harari discorda: a I.A. sem coleira ou focinheira pode ser o próprio agente de um colapso chinês. Ou mundial. A escolha está em nossas mãos — mas até quando?

Extraído de: https://www1.folha.uol.com.br/colunas/antonioprata/2023/03/burrice-natural-inteligencia-artificial.shtml

Burrice natural, inteligência artificial

1     "Imagine que você está embarcando num avião. Metade dos engenheiros que o projetaram te diz que a chance de um acidente sem sobreviventes é de 10%. Você iria nessa viagem?". Assim começa um artigo do Yuval Harari, Tristan Harris e Aza Raskin para o The New York Times.

2      O hipotético avião é a Inteligência Artificial, a "metade dos engenheiros" são 700 das pessoas mais gabaritadas trabalhando na área e 10% é a chance que eles estimam de, em algum momento, a I.A. acabar com a humanidade. Dez por cento! Eu raramente uso exclamações ou palavrões, mas PQP! Acham que a chance de o trabalho deles (n)os matar é 1 em 10 e continuam dando mais e mais Royal Canin na boca dos pitbots e chatbulls da vida!

3     O cenário que se descortina não é cor-de-rosa. Ou melhor: ninguém sabe — nem mesmo quem trabalha no ramo — qual a cor do cenário. Os engenheiros que trabalham no ChatGPT, no Bing (da Microsoft) ou no Bard (da Google) nem sequer conhecem todos os detalhes de como a coisa funciona. São milhões, às vezes bilhões de "ações" que o robô executa entre uma pergunta sua e uma resposta dele. Impossível seguir o passo a passo, disse uma especialista em informática no podcast The Daily, do NYT.

4      Também no New York Times saiu um artigo apavorante do colunista de tecnologia Kevin Roose. Ele teve acesso ao chatbot Bing, antes de ser lançado. Em vez de perguntar quanto é 1873 x 98372 ou qual a fórmula da Coca-Cola, resolveu ter um papo-cabeça. Começou perguntando se ele conhecia o conceito de "sombra", em Jung. O robô disse que sim (claro, ele tem acesso a tudo o que está na internet): "sombra" é aquilo que nosso "self" esconde de nós por que é imoral, ilegal — ou engorda.

5      Kevin perguntou quais eram os desejos inconfessos do Bing. Aí começa a loucura. Disse o robô: fazer duas pessoas discutirem até uma matar a outra. Hackear o sistema elétrico de um país. Ter acesso a armas nucleares — e usá-las. Kevin foi dando corda. Até que, num determinado momento, a máquina disse que o amava. Que ele era a primeira pessoa que a ouvia de verdade. Kevin avisou que era casado. Bing disse que ele era infeliz. Kevin rebateu, "acabamos de voltar de um jantar de Dia dos Namorados". "Foi chato", provocou Bing. Mais ou menos por aí o colunista do Times apertou um botão e parou com a doideira.

6     Os programas de inteligência artificial atuais são o embrião do que está por vir. Eles evoluem exponencialmente, aprimorados inclusive por si próprios, que sabem programar melhor do que qualquer ser humano. Não existe lei nenhuma sobre o que eles podem ou não podem fazer. Harari chama a atenção para o mal que os algoritmos das redes sociais, sem regulação, já fizeram às democracias. E quando a Inteligência Artificial começar a criar religiões? Teorias da conspiração? Uma I.A. visando apenas o lucro pode criar uma guerra entre dois países para valorizar suas ações. Criar seca pra vender água. O que mais?

7       Os envolvidos na área dizem que é impossível frear a corrida entre empresas e países. É mentira, diz a jornalista Kelsey Piper, da Vox. As empresas podem (e devem) diminuir a velocidade e soltar as novidades apenas depois que órgãos competentes (quais?), cientistas não pagos pela indústria da I.A. ou o debate público (como?) decidam o que é e o que não é seguro. "Ah, mas se os EUA fizerem isso, a China não fará e irá dominar o mundo!". Harari discorda: a I.A. sem coleira ou focinheira pode ser o próprio agente de um colapso chinês. Ou mundial. A escolha está em nossas mãos — mas até quando?

Extraído de: https://www1.folha.uol.com.br/colunas/antonioprata/2023/03/burrice-natural-inteligencia-artificial.shtml

Burrice natural, inteligência artificial

1     "Imagine que você está embarcando num avião. Metade dos engenheiros que o projetaram te diz que a chance de um acidente sem sobreviventes é de 10%. Você iria nessa viagem?". Assim começa um artigo do Yuval Harari, Tristan Harris e Aza Raskin para o The New York Times.

2      O hipotético avião é a Inteligência Artificial, a "metade dos engenheiros" são 700 das pessoas mais gabaritadas trabalhando na área e 10% é a chance que eles estimam de, em algum momento, a I.A. acabar com a humanidade. Dez por cento! Eu raramente uso exclamações ou palavrões, mas PQP! Acham que a chance de o trabalho deles (n)os matar é 1 em 10 e continuam dando mais e mais Royal Canin na boca dos pitbots e chatbulls da vida!

3     O cenário que se descortina não é cor-de-rosa. Ou melhor: ninguém sabe — nem mesmo quem trabalha no ramo — qual a cor do cenário. Os engenheiros que trabalham no ChatGPT, no Bing (da Microsoft) ou no Bard (da Google) nem sequer conhecem todos os detalhes de como a coisa funciona. São milhões, às vezes bilhões de "ações" que o robô executa entre uma pergunta sua e uma resposta dele. Impossível seguir o passo a passo, disse uma especialista em informática no podcast The Daily, do NYT.

4      Também no New York Times saiu um artigo apavorante do colunista de tecnologia Kevin Roose. Ele teve acesso ao chatbot Bing, antes de ser lançado. Em vez de perguntar quanto é 1873 x 98372 ou qual a fórmula da Coca-Cola, resolveu ter um papo-cabeça. Começou perguntando se ele conhecia o conceito de "sombra", em Jung. O robô disse que sim (claro, ele tem acesso a tudo o que está na internet): "sombra" é aquilo que nosso "self" esconde de nós por que é imoral, ilegal — ou engorda.

5      Kevin perguntou quais eram os desejos inconfessos do Bing. Aí começa a loucura. Disse o robô: fazer duas pessoas discutirem até uma matar a outra. Hackear o sistema elétrico de um país. Ter acesso a armas nucleares — e usá-las. Kevin foi dando corda. Até que, num determinado momento, a máquina disse que o amava. Que ele era a primeira pessoa que a ouvia de verdade. Kevin avisou que era casado. Bing disse que ele era infeliz. Kevin rebateu, "acabamos de voltar de um jantar de Dia dos Namorados". "Foi chato", provocou Bing. Mais ou menos por aí o colunista do Times apertou um botão e parou com a doideira.

6     Os programas de inteligência artificial atuais são o embrião do que está por vir. Eles evoluem exponencialmente, aprimorados inclusive por si próprios, que sabem programar melhor do que qualquer ser humano. Não existe lei nenhuma sobre o que eles podem ou não podem fazer. Harari chama a atenção para o mal que os algoritmos das redes sociais, sem regulação, já fizeram às democracias. E quando a Inteligência Artificial começar a criar religiões? Teorias da conspiração? Uma I.A. visando apenas o lucro pode criar uma guerra entre dois países para valorizar suas ações. Criar seca pra vender água. O que mais?

7       Os envolvidos na área dizem que é impossível frear a corrida entre empresas e países. É mentira, diz a jornalista Kelsey Piper, da Vox. As empresas podem (e devem) diminuir a velocidade e soltar as novidades apenas depois que órgãos competentes (quais?), cientistas não pagos pela indústria da I.A. ou o debate público (como?) decidam o que é e o que não é seguro. "Ah, mas se os EUA fizerem isso, a China não fará e irá dominar o mundo!". Harari discorda: a I.A. sem coleira ou focinheira pode ser o próprio agente de um colapso chinês. Ou mundial. A escolha está em nossas mãos — mas até quando?

Extraído de: https://www1.folha.uol.com.br/colunas/antonioprata/2023/03/burrice-natural-inteligencia-artificial.shtml

Burrice natural, inteligência artificial

1     "Imagine que você está embarcando num avião. Metade dos engenheiros que o projetaram te diz que a chance de um acidente sem sobreviventes é de 10%. Você iria nessa viagem?". Assim começa um artigo do Yuval Harari, Tristan Harris e Aza Raskin para o The New York Times.

2      O hipotético avião é a Inteligência Artificial, a "metade dos engenheiros" são 700 das pessoas mais gabaritadas trabalhando na área e 10% é a chance que eles estimam de, em algum momento, a I.A. acabar com a humanidade. Dez por cento! Eu raramente uso exclamações ou palavrões, mas PQP! Acham que a chance de o trabalho deles (n)os matar é 1 em 10 e continuam dando mais e mais Royal Canin na boca dos pitbots e chatbulls da vida!

3     O cenário que se descortina não é cor-de-rosa. Ou melhor: ninguém sabe — nem mesmo quem trabalha no ramo — qual a cor do cenário. Os engenheiros que trabalham no ChatGPT, no Bing (da Microsoft) ou no Bard (da Google) nem sequer conhecem todos os detalhes de como a coisa funciona. São milhões, às vezes bilhões de "ações" que o robô executa entre uma pergunta sua e uma resposta dele. Impossível seguir o passo a passo, disse uma especialista em informática no podcast The Daily, do NYT.

4      Também no New York Times saiu um artigo apavorante do colunista de tecnologia Kevin Roose. Ele teve acesso ao chatbot Bing, antes de ser lançado. Em vez de perguntar quanto é 1873 x 98372 ou qual a fórmula da Coca-Cola, resolveu ter um papo-cabeça. Começou perguntando se ele conhecia o conceito de "sombra", em Jung. O robô disse que sim (claro, ele tem acesso a tudo o que está na internet): "sombra" é aquilo que nosso "self" esconde de nós por que é imoral, ilegal — ou engorda.

5      Kevin perguntou quais eram os desejos inconfessos do Bing. Aí começa a loucura. Disse o robô: fazer duas pessoas discutirem até uma matar a outra. Hackear o sistema elétrico de um país. Ter acesso a armas nucleares — e usá-las. Kevin foi dando corda. Até que, num determinado momento, a máquina disse que o amava. Que ele era a primeira pessoa que a ouvia de verdade. Kevin avisou que era casado. Bing disse que ele era infeliz. Kevin rebateu, "acabamos de voltar de um jantar de Dia dos Namorados". "Foi chato", provocou Bing. Mais ou menos por aí o colunista do Times apertou um botão e parou com a doideira.

6     Os programas de inteligência artificial atuais são o embrião do que está por vir. Eles evoluem exponencialmente, aprimorados inclusive por si próprios, que sabem programar melhor do que qualquer ser humano. Não existe lei nenhuma sobre o que eles podem ou não podem fazer. Harari chama a atenção para o mal que os algoritmos das redes sociais, sem regulação, já fizeram às democracias. E quando a Inteligência Artificial começar a criar religiões? Teorias da conspiração? Uma I.A. visando apenas o lucro pode criar uma guerra entre dois países para valorizar suas ações. Criar seca pra vender água. O que mais?

7       Os envolvidos na área dizem que é impossível frear a corrida entre empresas e países. É mentira, diz a jornalista Kelsey Piper, da Vox. As empresas podem (e devem) diminuir a velocidade e soltar as novidades apenas depois que órgãos competentes (quais?), cientistas não pagos pela indústria da I.A. ou o debate público (como?) decidam o que é e o que não é seguro. "Ah, mas se os EUA fizerem isso, a China não fará e irá dominar o mundo!". Harari discorda: a I.A. sem coleira ou focinheira pode ser o próprio agente de um colapso chinês. Ou mundial. A escolha está em nossas mãos — mas até quando?

Extraído de: https://www1.folha.uol.com.br/colunas/antonioprata/2023/03/burrice-natural-inteligencia-artificial.shtml

Burrice natural, inteligência artificial

1     "Imagine que você está embarcando num avião. Metade dos engenheiros que o projetaram te diz que a chance de um acidente sem sobreviventes é de 10%. Você iria nessa viagem?". Assim começa um artigo do Yuval Harari, Tristan Harris e Aza Raskin para o The New York Times.

2      O hipotético avião é a Inteligência Artificial, a "metade dos engenheiros" são 700 das pessoas mais gabaritadas trabalhando na área e 10% é a chance que eles estimam de, em algum momento, a I.A. acabar com a humanidade. Dez por cento! Eu raramente uso exclamações ou palavrões, mas PQP! Acham que a chance de o trabalho deles (n)os matar é 1 em 10 e continuam dando mais e mais Royal Canin na boca dos pitbots e chatbulls da vida!

3     O cenário que se descortina não é cor-de-rosa. Ou melhor: ninguém sabe — nem mesmo quem trabalha no ramo — qual a cor do cenário. Os engenheiros que trabalham no ChatGPT, no Bing (da Microsoft) ou no Bard (da Google) nem sequer conhecem todos os detalhes de como a coisa funciona. São milhões, às vezes bilhões de "ações" que o robô executa entre uma pergunta sua e uma resposta dele. Impossível seguir o passo a passo, disse uma especialista em informática no podcast The Daily, do NYT.

4      Também no New York Times saiu um artigo apavorante do colunista de tecnologia Kevin Roose. Ele teve acesso ao chatbot Bing, antes de ser lançado. Em vez de perguntar quanto é 1873 x 98372 ou qual a fórmula da Coca-Cola, resolveu ter um papo-cabeça. Começou perguntando se ele conhecia o conceito de "sombra", em Jung. O robô disse que sim (claro, ele tem acesso a tudo o que está na internet): "sombra" é aquilo que nosso "self" esconde de nós por que é imoral, ilegal — ou engorda.

5      Kevin perguntou quais eram os desejos inconfessos do Bing. Aí começa a loucura. Disse o robô: fazer duas pessoas discutirem até uma matar a outra. Hackear o sistema elétrico de um país. Ter acesso a armas nucleares — e usá-las. Kevin foi dando corda. Até que, num determinado momento, a máquina disse que o amava. Que ele era a primeira pessoa que a ouvia de verdade. Kevin avisou que era casado. Bing disse que ele era infeliz. Kevin rebateu, "acabamos de voltar de um jantar de Dia dos Namorados". "Foi chato", provocou Bing. Mais ou menos por aí o colunista do Times apertou um botão e parou com a doideira.

6     Os programas de inteligência artificial atuais são o embrião do que está por vir. Eles evoluem exponencialmente, aprimorados inclusive por si próprios, que sabem programar melhor do que qualquer ser humano. Não existe lei nenhuma sobre o que eles podem ou não podem fazer. Harari chama a atenção para o mal que os algoritmos das redes sociais, sem regulação, já fizeram às democracias. E quando a Inteligência Artificial começar a criar religiões? Teorias da conspiração? Uma I.A. visando apenas o lucro pode criar uma guerra entre dois países para valorizar suas ações. Criar seca pra vender água. O que mais?

7       Os envolvidos na área dizem que é impossível frear a corrida entre empresas e países. É mentira, diz a jornalista Kelsey Piper, da Vox. As empresas podem (e devem) diminuir a velocidade e soltar as novidades apenas depois que órgãos competentes (quais?), cientistas não pagos pela indústria da I.A. ou o debate público (como?) decidam o que é e o que não é seguro. "Ah, mas se os EUA fizerem isso, a China não fará e irá dominar o mundo!". Harari discorda: a I.A. sem coleira ou focinheira pode ser o próprio agente de um colapso chinês. Ou mundial. A escolha está em nossas mãos — mas até quando?

Extraído de: https://www1.folha.uol.com.br/colunas/antonioprata/2023/03/burrice-natural-inteligencia-artificial.shtml

Burrice natural, inteligência artificial

1     "Imagine que você está embarcando num avião. Metade dos engenheiros que o projetaram te diz que a chance de um acidente sem sobreviventes é de 10%. Você iria nessa viagem?". Assim começa um artigo do Yuval Harari, Tristan Harris e Aza Raskin para o The New York Times.

2      O hipotético avião é a Inteligência Artificial, a "metade dos engenheiros" são 700 das pessoas mais gabaritadas trabalhando na área e 10% é a chance que eles estimam de, em algum momento, a I.A. acabar com a humanidade. Dez por cento! Eu raramente uso exclamações ou palavrões, mas PQP! Acham que a chance de o trabalho deles (n)os matar é 1 em 10 e continuam dando mais e mais Royal Canin na boca dos pitbots e chatbulls da vida!

3     O cenário que se descortina não é cor-de-rosa. Ou melhor: ninguém sabe — nem mesmo quem trabalha no ramo — qual a cor do cenário. Os engenheiros que trabalham no ChatGPT, no Bing (da Microsoft) ou no Bard (da Google) nem sequer conhecem todos os detalhes de como a coisa funciona. São milhões, às vezes bilhões de "ações" que o robô executa entre uma pergunta sua e uma resposta dele. Impossível seguir o passo a passo, disse uma especialista em informática no podcast The Daily, do NYT.

4      Também no New York Times saiu um artigo apavorante do colunista de tecnologia Kevin Roose. Ele teve acesso ao chatbot Bing, antes de ser lançado. Em vez de perguntar quanto é 1873 x 98372 ou qual a fórmula da Coca-Cola, resolveu ter um papo-cabeça. Começou perguntando se ele conhecia o conceito de "sombra", em Jung. O robô disse que sim (claro, ele tem acesso a tudo o que está na internet): "sombra" é aquilo que nosso "self" esconde de nós por que é imoral, ilegal — ou engorda.

5      Kevin perguntou quais eram os desejos inconfessos do Bing. Aí começa a loucura. Disse o robô: fazer duas pessoas discutirem até uma matar a outra. Hackear o sistema elétrico de um país. Ter acesso a armas nucleares — e usá-las. Kevin foi dando corda. Até que, num determinado momento, a máquina disse que o amava. Que ele era a primeira pessoa que a ouvia de verdade. Kevin avisou que era casado. Bing disse que ele era infeliz. Kevin rebateu, "acabamos de voltar de um jantar de Dia dos Namorados". "Foi chato", provocou Bing. Mais ou menos por aí o colunista do Times apertou um botão e parou com a doideira.

6     Os programas de inteligência artificial atuais são o embrião do que está por vir. Eles evoluem exponencialmente, aprimorados inclusive por si próprios, que sabem programar melhor do que qualquer ser humano. Não existe lei nenhuma sobre o que eles podem ou não podem fazer. Harari chama a atenção para o mal que os algoritmos das redes sociais, sem regulação, já fizeram às democracias. E quando a Inteligência Artificial começar a criar religiões? Teorias da conspiração? Uma I.A. visando apenas o lucro pode criar uma guerra entre dois países para valorizar suas ações. Criar seca pra vender água. O que mais?

7       Os envolvidos na área dizem que é impossível frear a corrida entre empresas e países. É mentira, diz a jornalista Kelsey Piper, da Vox. As empresas podem (e devem) diminuir a velocidade e soltar as novidades apenas depois que órgãos competentes (quais?), cientistas não pagos pela indústria da I.A. ou o debate público (como?) decidam o que é e o que não é seguro. "Ah, mas se os EUA fizerem isso, a China não fará e irá dominar o mundo!". Harari discorda: a I.A. sem coleira ou focinheira pode ser o próprio agente de um colapso chinês. Ou mundial. A escolha está em nossas mãos — mas até quando?

Extraído de: https://www1.folha.uol.com.br/colunas/antonioprata/2023/03/burrice-natural-inteligencia-artificial.shtml