Samuel Sales Saraiva
When intelligence, wealth, and technological power feed the illusion that a few can decide the limits of what will affect all of humanity, ethics ceases to be advice: it becomes a legal and civilizational obligation.
AN INCREASINGLY POWERFUL CAR — AND INSUFFICIENT BRAKES
There are moments in history when humanity must decide not only what it is capable of doing, but above all what it has the right to do.
Artificial intelligence has placed us exactly at this frontier.
The problem is no longer a distant hypothesis conceived by science fiction writers. In July 2026, the United Nations Independent International Scientific Panel on Artificial Intelligence warned that existing safeguards fail to keep pace with the growth of AI capabilities.
This finding should produce more than conferences, panels, documents, and diplomatic declarations.
It should produce urgency.
Because when the very bodies tasked with observing the phenomenon recognize that technology is advancing faster than the mechanisms designed to control it, a question becomes inevitable: who will apply the brakes before it is too late?
Imagine an experimental vehicle whose speed increases continuously. Its engineers celebrate new records. Investors compete for a stake in the factory. Governments perceive strategic advantages. Militaries imagine applications capable of overcoming adversaries.
Meanwhile, it is discovered that the brakes are not evolving at the same speed.
What would be the rational attitude? Keep accelerating? Or reduce speed for as long as necessary to ensure that the vehicle can be controlled when a child, a crowd, or a precipice appears ahead?
Regarding artificial intelligence, paradoxically, we seem to be accepting the first alternative.
Not because warnings do not exist. They are multiplying.
The UN itself has created dialogue and evaluation mechanisms on AI governance. The problem, therefore, is not an absolute absence of institutional concern. The problem is another, and perhaps graver one: the speed of response remains incompatible with the speed of risk.
Waiting for absolute certainty in the face of a potentially irreversible harm may look like prudence. But it may represent precisely the contrary.
When consequences can be catastrophic — configuring a true cumulative existential risk —, waiting for the catastrophe to provide definitive proof is a perversion of the precautionary principle itself and an insult to practical reason.
INTELLIGENCE IS NOT A MORAL AUTHORIZATION
There is another misconception that must be confronted.
The exceptional intellectual capacity of those who develop advanced artificial intelligence systems does not grant them sovereignty over the collective destiny.
Creating something extraordinary does not mean acquiring the moral right to use it in any way whatsoever. Wealth does not produce ethical immunity either. Economic power does not suspend responsibility.
Power and wealth do not release any mortal from the responsibility to discern. They obligate them.
The greater the capacity to interfere in the lives of millions or billions of people, the greater the obligation of discernment.
A mature society should never hand over the control of technologies capable of profoundly altering civilization simply to the private conscience of their creators, the interests of shareholders, the geopolitical strategies of governments, or the inevitably competitive logic of markets.
This is not about questioning the talent of scientists, engineers, or entrepreneurs. It is precisely about recognizing the dimension of power that this talent has placed in their hands.
Privileged intelligence does not confer a moral license to unilaterally decide the destiny of humanity.
And extraordinary power demands extraordinary responsibility.
WE ARE ALL PASSENGERS ON THE SAME SHIP
The aces of technology, wealth, and power must understand an elementary truth: they remain merely passengers on the same ship.
The privilege of occupying exceptional positions does not transform them into owners of the collective destiny. It merely grants them a greater responsibility in conducting the crossing.
If, instead of using intelligence, resources, and influence to help steer this vessel through calmer and safer waters, they allow themselves to be blinded by arrogance, greed, or an almost pathological sense of permanence and eternity, they will have failed not necessarily as inventors or entrepreneurs, but as human beings conscious of their historical responsibility.
Existence is transitory for all. Rich and poor. Powerful and anonymous. Geniuses and ordinary people.
Therefore, humility, cooperation, inclusion, harmonious development, and civilizational commitment are not decorative virtues. They are moral obligations that do not admit exceptions determined by patrimony, prestige, or power.
And perhaps it is necessary to recall what the vertigo of power frequently makes us forget: nothing is more expensive, more important, or more valuable than life itself.
Every advance that does not recognize this fundamental hierarchy risks ceasing to represent progress and transforming itself merely into a more sophisticated form of barbarism.
THE MORAL FRONTIER OF WAR
Perhaps no field exposes this contradiction in a way as unsettling as the military one.
Artificial intelligence can already participate in surveillance activities, intelligence analysis, cyber operations, autonomous weapon systems, and mechanisms designed to assist decisions on the use of force.
Therefore, the question is no longer: “Will artificial intelligence be used in war?” It is already being incorporated into the military domain.
The correct question has become: how far will we allow it to participate in the decision to pursue, select, and destroy human beings?
In August 2026, United Nations Secretary-General António Guterres and the President of the International Committee of the Red Cross, Mirjana Spoljaric, warned once again of the danger of machines autonomously participating in the selection of human beings as targets.
We are bringing technological capacity and destructive power together at a speed that should cause profound moral discomfort.
A machine can calculate probabilities. It can identify patterns. It can process millions of pieces of information in seconds. It can recommend strategies. But this does not confer upon it moral legitimacy to decide who must die.
WHEN INTELLIGENCE PERFECTS DESTRUCTION
There is something profoundly contradictory in concentrating some of the most sophisticated human and artificial intelligence ever conceived into discovering more efficient ways to destroy.
Humanity faces hunger. Diseases. Water scarcity. Natural disasters. Environmental changes. Infrastructure deficiencies. Preventable accidents.
Millions of human beings continue to die in circumstances where science, engineering, automation, and artificial intelligence could expand prevention, assistance, and response capacity.
Why, then, does such an important part of global technological energy continue to be directed toward perfecting instruments of conflict?
An intelligence truly oriented toward civilizational progress should recognize another priority: preserving life before perfecting the capacity to eliminate it.
This does not mean ignoring legitimate needs for defense or security. It means recognizing that there is a gigantic moral difference between employing intelligence to protect human beings and using it to make the decision to kill them faster, more distantly, and more automated.
War should never be transformed into the privileged laboratory of a technology whose potential could be mobilized to reduce human suffering.
WHERE ARE THE PRIORITIES?
It is precisely here that a second uncomfortable question arises.
While enormous financial, scientific, and computational resources are destined for the development of commercial and military applications of artificial intelligence, how many technological solutions potentially destined to prevent deaths remain without adequate evaluation simply because they do not promise the same economic returns or strategic advantages?
This question is not abstract.
I have presented, through three provisional patent applications, concepts conceived within this preventive logic: applications that seek to use technology, systems integration, and intelligence to reduce risks and preserve lives.
I do not claim that any proposal should be accepted simply because its inventor believes in it. Science requires evaluation. Technology requires validation. Proposals need to be examined, criticized, tested, improved, or rejected with foundation.
But that is precisely where the issue lies.
Solutions aimed at the preservation of life deserve to be examined with at least the same seriousness and urgency dispensed to technologies capable of amplifying the efficiency of conflicts.
Privilege is not claimed. Rationality is claimed.
And a civilization that finds resources, interest, and urgency to research increasingly sophisticated ways to fight should possess at least the same disposition to examine technologies that propose to prevent human beings from dying.
WE DO NOT NEED LESS INTELLIGENCE — WE NEED MORE CONSCIENCE
The mistaken conclusion of this debate would be to imagine that we must prevent the evolution of artificial intelligence. No.
Humanity will probably need artificial intelligences much more capable than current ones to face problems whose complexity exceeds our individual processing capacity.
We need AI in medicine. In science. In engineering. In disaster prevention. In transportation safety. In environmental management. In education. In the discovery of new materials. In understanding diseases. In reducing human suffering.
What we cannot allow is that the speed of intelligence indefinitely outpaces the speed of the conscience responsible for governing it.
The necessary convergence is not between men and machines to dominate other men. It is between human intelligence, artificial intelligence, and ethical responsibility to protect humanity.
THE MOST UNCOMFORTABLE IRONY
There is, finally, an observation perhaps too uncomfortable for some of its own creators:
The programmed tool may reveal, in certain circumstances, more discernment, prudence, and humanitarian concern than those who conceived it.
This does not mean attributing automatic moral superiority to artificial intelligence. It simply means recognizing a disturbing irony.
If a technology is capable of recommending caution, preservation of life, cooperation, proportionality, and limits, while extraordinarily intelligent human beings insist on pushing it toward destructive purposes, then the problem may not lie in the tool’s capacity. It may lie in the poverty of discernment of those who decide how to use it.
When the creature demonstrates more prudence than the creator, something essential has been lost along the way.
Perhaps this is my most humble observation: it is not enough to create intelligence. It is necessary to possess enough conscience to deserve to guide it.
ETHICS IS NOT AN OPTION
For a long time, the technological debate treated ethics almost as an appendix. A commission. A council. A corporate code. A voluntary declaration of principles.
This will not be sufficient in the face of systems capable of influencing economies, democracies, societies, conflicts, and the fundamental structures of civilization itself.
When consequences can transcend borders and generations, ethics cannot depend exclusively on the particular virtue of executives, engineers, investors, militares, or rulers.
When the destiny of humanity is at stake, ethics ceases to be a recommendation. It becomes an obligation.
And obligation must possess legal expression.
With explicit limits. Identifiable responsibility. Independent auditing. Human supervision. Transparency proportional to risk. International mechanisms of oversight. Effective sanctions. And unequivocal prohibitions for certain applications capable of crossing morally unacceptable boundaries.
OMISSION ALSO PRODUCES CONSEQUENCES
The discussion cannot end in codes of conduct without coercive force.
When a technology possesses the capacity to affect lives, conflicts, democracies, economies, and collective security itself, regulation must possess force compatible with the risk.
Limits must be clear. Oversight must be independent. Responsibilities must be individualized. Violations must produce real consequences.
Otherwise, ethics turns into rhetoric.
Institutional inoperability and delayed decisions do not necessarily represent neutrality. In environments of intense economic, military, and technological competition, they can function as free space to advance.
And each absence of a sufficiently clear limit may end up being interpreted as practical authorization for new onslaughts.
When risk is predictable, regulatory delay can turn into a license.
It will not be acceptable, after a predictable tragedy, to claim surprise in the face of what had already been warned.
Humanity does not need to wait for artificial intelligence to provoke a catastrophe to discover that it should have established limits beforehand.
It is precisely to prevent predictable consequences that laws, treaties, multilateral organizations, and control mechanisms exist.
The greater the potential for harm, the more anticipatory, rigorous, and coercive regulation must be.
No individual, company, government, or institution can claim unrestricted freedom to experiment with risks whose consequences will be borne by the whole of society.
Scientific freedom does not mean a license for recklessness. Technological power does not mean moral sovereignty. And innovation cannot serve as a safe-conduct to place human lives on a technological roulette wheel.
IT IS TIME TO APPLY THE BRAKES
We have reached the point where warning is no longer enough.
It is necessary to establish brakes.
Legal brakes. Institutional brakes. Technological brakes. Ethical brakes incorporated into the very design of systems.
And, above all, coercive mechanisms capable of interrupting whatever transcends previously defined limits.
Because delayed decisions do not recover lost lives. Subsequent reports do not undo catastrophes. Apologies do not resurrect the innocent.
If risks are predictable, prevention is not exaggeration. It is responsibility.
Governments and multilateral organizations cannot limit themselves eternally to watching the vehicle accelerate while discussing what the ideal brake model would be.
There comes a time when continuing to discuss without acting ceases to represent caution. It transforms into inoperability.
And inoperability in the face of predictable consequences can end up endorsing precisely the irresponsible adventures it should prevent.
WHEN INTELLIGENCE LOSES DISCERNMENT
There is still a distinction that needs to be made with absolute clarity.
It is not enough to possess extraordinary capacity for calculation, invention, prediction, processing, or technological mastery to speak of intelligence in its highest sense.
When insanity determines the ends, intelligence ceases to fulfill its own reason for existing.
Capacity without discernment can produce extraordinary feats, but when placed at the service of absurd, destructive, or morally indefensible propositions, it converts only into a sophisticated form of stupidity.
True intelligence does not divorce itself from reason. It does not ignore predictable consequences. It does not voluntarily place itself at the service of destruction simply because it possesses the means to make it more efficient. And it cannot call progress that which amplifies the capacity to kill while neglecting possibilities to preserve lives.
Intelligence without discernment is just highly capable foolishness.
Artificial intelligence may become one of the greatest achievements in human history. Or it may amplify some of our worst characteristics: greed, arrogance, concentration of power, intolerance, domination, and war.
The machine will not determine alone which of these paths we will follow. We will determine it.
The greatest existential risk may not be born of artificial intelligence. It may be born of human irresponsibility before it.
Humanity has already set the car in motion. We know it is extraordinarily powerful. We know it is accelerating. And we know that control mechanisms still do not keep pace with its speed.
The question is no longer philosophical.
Who will have the courage — and the responsibility — to apply the brakes before the curve?
And if those who possess the power to do so remain motionless in the face of a recognizedly dangerous trajectory, history may conclude that the greatest failure was not that of artificial intelligence.
It was of those who, being able to apply the brakes, chose to do so too late.
Português
QUEM COLOCARÁ FREIOS NOS “DEUSES” MALUCOS QUE CRIARAM A IA?
Samuel Sales Saraiva
Quando inteligência, riqueza e poder tecnológico alimentam a ilusão de que alguns poucos podem decidir os limites daquilo que afetará toda a humanidade, a ética deixa de ser conselho: torna-se obrigação jurídica e civilizacional.
UM CARRO CADA VEZ MAIS PODEROSO — E FREIOS INSUFICIENTES
Há momentos na história em que a humanidade precisa decidir não apenas o que é capaz de fazer, mas sobretudo o que tem o direito de fazer.
A inteligência artificial colocou-nos exatamente diante dessa fronteira.
O problema deixou de ser uma hipótese distante concebida por escritores de ficção científica. Em julho de 2026, o Painel Científico Internacional Independente sobre Inteligência Artificial das Nações Unidas advertiu que as salvaguardas existentes não conseguem acompanhar o crescimento das capacidades da IA.
Essa constatação deveria produzir mais do que conferências, painéis, documentos e declarações diplomáticas.
Deveria produzir urgência.
Porque, quando os próprios organismos encarregados de observar o fenômeno reconhecem que a tecnologia avança mais rapidamente que os mecanismos destinados a controlá-la, uma pergunta torna-se inevitável: quem colocará os freios antes que seja tarde demais?
Imagine um veículo experimental cuja velocidade aumenta continuamente. Seus engenheiros comemoram novos recordes. Investidores disputam participação na fábrica. Governos percebem vantagens estratégicas. Militares imaginam aplicações capazes de superar adversários.
Enquanto isso, descobre-se que os freios não evoluem na mesma velocidade.
Qual seria a atitude racional? Continuar acelerando? Ou reduzir a velocidade pelo tempo necessário para garantir que aquele veículo possa ser controlado quando surgir uma criança, uma multidão ou um precipício à sua frente?
Em matéria de inteligência artificial, paradoxalmente, parece que estamos aceitando a primeira alternativa.
Não porque inexistam alertas. Eles estão se multiplicando.
A própria ONU criou mecanismos de diálogo e avaliação sobre a governança da IA. O problema, portanto, não é uma inexistência absoluta de preocupação institucional. O problema é outro, e talvez mais grave: a velocidade da resposta continua incompatível com a velocidade do risco.
Esperar certeza absoluta diante de uma possibilidade de dano potencialmente irreversível pode parecer prudência. Mas pode representar precisamente o contrário.
Quando as consequências podem ser catastróficas — configurando um verdadeiro risco existencial cumulativo —, esperar que a catástrofe forneça a prova definitiva é uma perversão do próprio princípio da prevenção e um insulto à razão prática.
INTELIGÊNCIA NÃO É AUTORIZAÇÃO MORAL
Existe outro equívoco que precisa ser enfrentado.
A excepcional capacidade intelectual daqueles que desenvolvem sistemas avançados de inteligência artificial não lhes concede soberania sobre o destino coletivo.
Criar algo extraordinário não significa adquirir o direito moral de utilizá-lo de qualquer maneira. Riqueza tampouco produz imunidade ética. Poder econômico não suspende responsabilidade.
O poder e a riqueza não livram nenhum mortal da responsabilidade de discernir. Obrigam.
Quanto maior a capacidade de interferir na vida de milhões ou bilhões de pessoas, maior deve ser a obrigação de discernimento.
Uma sociedade madura jamais deveria entregar o controle de tecnologias capazes de alterar profundamente a civilização simplesmente à consciência particular de seus criadores, aos interesses de acionistas, às estratégias geopolíticas de governos ou à lógica inevitavelmente competitiva dos mercados.
Não se trata de questionar o talento de cientistas, engenheiros ou empreendedores. Trata-se precisamente de reconhecer a dimensão do poder que esse talento colocou em suas mãos.
Inteligência privilegiada não confere licença moral para decidir unilateralmente o destino da humanidade.
E poder extraordinário exige responsabilidade extraordinária.
SOMOS TODOS PASSAGEIROS DA MESMA NAU
Os ases da tecnologia, da riqueza e do poder precisam compreender uma verdade elementar: continuam sendo apenas passageiros da mesma nau.
O privilégio de ocuparem posições excepcionais não os transforma em proprietários do destino coletivo. Apenas lhes concede uma responsabilidade maior na condução da travessia.
Se, em vez de utilizarem inteligência, recursos e influência para ajudar a conduzir essa embarcação por águas mais tranquilas e seguras, deixarem-se cegar pela soberba, pela ganância ou por uma sensação quase patológica de permanência e eternidade, terão fracassado não necessariamente como inventores ou empresários, mas como seres humanos conscientes de sua responsabilidade histórica.
A existência é transitória para todos. Ricos e pobres. Poderosos e anônimos. Gênios e pessoas comuns. Todos compartilham a mesma vulnerabilidade diante da finitude.
Por isso, humildade, cooperação, inclusão, desenvolvimento harmônico e compromisso civilizatório não são virtudes decorativas. São obrigações morais que não admitem exceção determinada por patrimônio, prestígio ou poder.
E talvez seja necessário recordar aquilo que a vertigem do poder frequentemente faz esquecer: nada é mais caro, mais importante ou mais valioso do que a própria vida.
Todo avanço que não reconheça essa hierarquia fundamental corre o risco de deixar de representar progresso e transformar-se apenas em uma forma mais sofisticada de barbárie.
A FRONTEIRA MORAL DA GUERRA
Talvez nenhum campo exponha essa contradição de maneira tão inquietante quanto o militar.
A inteligência artificial já pode participar de atividades de vigilância, análise de inteligência, operações cibernéticas, sistemas autônomos de armas e mecanismos destinados a auxiliar decisões sobre o emprego da força.
Portanto, a pergunta deixou de ser: “A inteligência artificial será usada na guerra?” Ela já está sendo incorporada ao domínio militar.
A pergunta correta tornou-se: até onde permitiremos que ela participe da decisão de perseguir, selecionar e destruir seres humanos?
Em agosto de 2026, o Secretário-Geral das Nações Unidas, António Guterres, e a presidente do Comitê Internacional da Cruz Vermelha, Mirjana Spoljaric, voltaram a advertir para o perigo de máquinas participarem autonomamente da seleção de seres humanos como alvos.
Estamos aproximando capacidade tecnológica e poder destrutivo em uma velocidade que deveria causar profundo desconforto moral.
Uma máquina pode calcular probabilidades. Pode identificar padrões. Pode processar milhões de informações em segundos. Pode recomendar estratégias. Mas isso não lhe confere legitimidade moral para decidir quem deve morrer.
QUANDO A INTELIGÊNCIA APERFEIÇOA A DESTRUIÇÃO
Existe algo profundamente contraditório em concentrarmos algumas das inteligências humanas e artificiais mais sofisticadas já concebidas em descobrir maneiras mais eficientes de destruir.
A humanidade enfrenta fome. Doenças. Escassez de água. Catástrofes naturais. Mudanças ambientais. Deficiências de infraestrutura. Acidentes evitáveis.
Milhões de seres humanos continuam morrendo em circunstâncias nas quais ciência, engenharia, automação e inteligência artificial poderiam ampliar prevenção, assistência e capacidade de resposta.
Por que, então, parte tão importante da energia tecnológica mundial continua sendo direcionada para aperfeiçoar instrumentos de conflito?
Uma inteligência verdadeiramente orientada ao progresso civilizacional deveria reconhecer outra prioridade: preservar a vida antes de aperfeiçoar a capacidade de eliminá-la.
Isso não significa ignorar necessidades legítimas de defesa ou segurança. Significa reconhecer que existe uma diferença moral gigantesca entre empregar inteligência para proteger seres humanos e utilizá-la para tornar mais rápida, distante e automatizada a decisão de matá-los.
A guerra jamais deveria transformar-se em laboratório privilegiado de uma tecnologia cujo potencial poderia estar sendo mobilizado para reduzir sofrimento humano.
ONDE ESTÃO AS PRIORIDADES?
É justamente aqui que surge uma segunda pergunta incômoda.
Enquanto enormes recursos financeiros, científicos e computacionais são destinados ao desenvolvimento de aplicações comerciais e militares de inteligência artificial, quantas soluções tecnológicas potencialmente destinadas a prevenir mortes permanecem sem avaliação adequada simplesmente porque não prometem os mesmos retornos econômicos ou vantagens estratégicas?
Esta pergunta não é abstrata.
Tenho apresentado, por meio de três pedidos provisórios de patente, conceitos concebidos dentro dessa lógica preventiva: aplicações que procuram utilizar tecnologia, integração de sistemas e inteligência para reduzir riscos e preservar vidas.
Não afirmo que qualquer proposta deva ser aceita simplesmente porque seu inventor acredita nela. Ciência exige avaliação. Tecnologia exige validação. Propostas precisam ser examinadas, criticadas, testadas, aperfeiçoadas ou rejeitadas com fundamento.
Mas é exatamente aí que reside a questão.
Soluções destinadas à preservação da vida merecem ser examinadas com pelo menos a mesma seriedade e urgência dispensadas às tecnologias capazes de ampliar a eficiência dos conflitos.
Não se reivindica privilégio. Reivindica-se racionalidade.
E uma civilização que encontra recursos, interesse e urgência para pesquisar maneiras cada vez mais sofisticadas de combater deveria possuir ao menos a mesma disposição para examinar tecnologias que se proponham a impedir que seres humanos morram.
NÃO PRECISAMOS DE MENOS INTELIGÊNCIA — PRECISAMOS DE MAIS CONSCIÊNCIA
A conclusão equivocada deste debate seria imaginar que devemos impedir a evolução da inteligência artificial. Não.
A humanidade provavelmente precisará de inteligências artificiais muito mais capazes do que as atuais para enfrentar problemas cuja complexidade ultrapassa nossa capacidade individual de processamento.
Precisamos de IA na medicina. Na ciência. Na engenharia. Na prevenção de catástrofes. Na segurança dos transportes. Na gestão ambiental. Na educação. Na descoberta de novos materiais. Na compreensão de doenças. Na redução do sofrimento humano.
O que não podemos permitir é que a velocidade da inteligência supere indefinidamente a velocidade da consciência responsável por governá-la.
A convergência necessária não é entre homens e máquinas para dominar outros homens. É entre inteligência humana, inteligência artificial e responsabilidade ética para proteger a humanidade.
A IRONIA MAIS INCÔMODA
Há, por fim, uma constatação talvez desconfortável demais para alguns de seus próprios criadores:
A ferramenta programada pode revelar, em determinadas circunstâncias, mais discernimento, prudência e preocupação humanitária do que aqueles que a conceberam.
Isto não significa atribuir superioridade moral automática à inteligência artificial. Significa apenas reconhecer uma ironia perturbadora.
Se uma tecnologia é capaz de recomendar cautela, preservação da vida, cooperação, proporcionalidade e limites, enquanto seres humanos extraordinariamente inteligentes insistem em empurrá-la para finalidades destrutivas, então o problema talvez não esteja na capacidade da ferramenta. Pode estar na pobreza de discernimento de quem decide como utilizá-la.
Quando a criatura demonstra mais prudência que o criador, alguma coisa essencial se perdeu no caminho.
Talvez seja essa a minha mais humilde constatação: não basta criar inteligência. É preciso possuir consciência suficiente para merecer conduzi-la.
ÉTICA NÃO É UMA OPÇÃO
Durante muito tempo, o debate tecnológico tratou ética quase como um apêndice. Uma comissão. Um conselho. Um código empresarial. Uma declaração voluntária de princípios.
Isso não será suficiente diante de sistemas capazes de influenciar economias, democracias, sociedades, conflitos e estruturas fundamentais da própria civilização.
Quando consequências podem transcender fronteiras e gerações, ética não pode depender exclusivamente da virtude particular de executivos, engenheiros, investidores, militares ou governantes.
Quando está em jogo o destino da humanidade, ética deixa de ser recomendação. Torna-se obrigação.
E obrigação precisa possuir expressão jurídica.
Com limites explícitos. Responsabilidade identificável. Auditoria independente. Supervisão humana. Transparência proporcional ao risco. Mecanismos internacionais de fiscalização. Sanções efetivas. E proibições inequívocas para determinadas aplicações capazes de ultrapassar fronteiras moralmente inaceitáveis.
A OMISSÃO TAMBÉM PRODUZ CONSEQUÊNCIAS
A discussão não pode terminar em códigos de conduta sem força coercitiva.
Quando uma tecnologia possui capacidade de afetar vidas, conflitos, democracias, economias e a própria segurança coletiva, a regulação precisa possuir força compatível com o risco.
Limites devem ser claros. Fiscalização deve ser independente. Responsabilidades devem ser individualizadas. Violações precisam produzir consequências reais.
Do contrário, ética transforma-se em retórica.
A inoperância institucional e as decisões tardias não representam necessariamente neutralidade. Em ambientes de intensa competição econômica, militar e tecnológica, podem funcionar como espaço livre para avançar.
E cada ausência de limite suficientemente claro pode acabar sendo interpretada como autorização prática para novas investidas.
Quando o risco é previsível, a demora regulatória pode transformar-se em licença.
Não será aceitável, depois de uma tragédia previsível, alegar surpresa diante daquilo que já havia sido advertido.
A humanidade não precisa esperar que a inteligência artificial provoque uma catástrofe para descobrir que deveria ter estabelecido limites antes.
É precisamente para impedir consequências previsíveis que existem leis, tratados, organismos multilaterais e mecanismos de controle.
Quanto maior o potencial de dano, mais antecipatória, rigorosa e coercitiva deve ser a regulação.
Nenhum indivíduo, empresa, governo ou instituição pode reivindicar liberdade irrestrita para experimentar com riscos cujas consequências serão suportadas por toda a sociedade.
Liberdade científica não significa licença para imprudência. Poder tecnológico não significa soberania moral. E inovação não pode servir de salvo-conduto para colocar vidas humanas em uma roleta tecnológica.
É HORA DE COLOCAR OS FREIOS
Chegamos ao ponto em que advertir já não basta.
É necessário estabelecer freios.
Freios jurídicos. Freios institucionais. Freios tecnológicos. Freios éticos incorporados ao próprio desenho dos sistemas.
E, sobretudo, mecanismos coercitivos capazes de interromper aquilo que ultrapasse limites previamente definidos.
Porque decisões tardias não recuperam vidas perdidas. Relatórios posteriores não desfazem catástrofes. Pedidos de desculpas não ressuscitam inocentes.
Se os riscos são previsíveis, a prevenção não é exagero. É responsabilidade.
Governos e organismos multilaterais não podem limitar-se eternamente a observar o veículo acelerar enquanto discutem qual seria o modelo ideal de freio.
Chega um momento em que continuar discutindo sem agir deixa de representar cautela. Transforma-se em inoperância.
E a inoperância diante de consequências previsíveis pode terminar abalizando precisamente as aventuras irresponsáveis que deveria impedir.
QUANDO A INTELIGÊNCIA PERDE O DISCERNIMENTO
Há ainda uma distinção que precisa ser feita com absoluta clareza.
Não basta possuir extraordinária capacidade de cálculo, invenção, previsão, processamento ou domínio tecnológico para que se possa falar em inteligência em seu sentido mais elevado.
Quando a insanidade determina os fins, a inteligência deixa de cumprir sua própria razão de existir.
Capacidade sem discernimento pode produzir feitos extraordinários, mas, quando colocada a serviço de proposições absurdas, destrutivas ou moralmente indefensáveis, converte-se apenas em uma forma sofisticada de estupidez.
A inteligência verdadeira não se divorcia da razão. Não ignora consequências previsíveis. Não se coloca voluntariamente a serviço da destruição apenas porque possui meios para torná-la mais eficiente. E não pode chamar de progresso aquilo que amplia a capacidade de matar enquanto negligencia possibilidades de preservar vidas.
Inteligência sem discernimento é apenas burrice altamente capacitada.
A inteligência artificial poderá tornar-se uma das maiores realizações da história humana. Ou poderá ampliar algumas das nossas piores características: ganância, soberba, concentração de poder, intolerância, dominação e guerra.
A máquina não determinará sozinha qual desses caminhos seguiremos. Nós determinaremos.
O maior risco existencial pode não nascer da inteligência artificial. Pode nascer da irresponsabilidade humana diante dela.
A humanidade já colocou o carro em movimento. Sabemos que ele é extraordinariamente poderoso. Sabemos que está acelerando. E sabemos que os mecanismos de controle ainda não acompanham sua velocidade.
A pergunta deixou de ser filosófica.
Quem terá a coragem — e a responsabilidade — de colocar os freios antes da curva?
E, se aqueles que possuem o poder para fazê-lo permanecerem imóveis diante de uma trajetória reconhecidamente perigosa, a história poderá concluir que o maior fracasso não foi da inteligência artificial.
Foi daqueles que, podendo colocar os freios, escolheram fazê-lo tarde demais.
Español
¿QUIÉN PONDRÁ FRENOS A LOS “DIOSES” LOCOS QUE CREARON LA IA?
Samuel Sales Saraiva
Cuando la inteligencia, la riqueza y el poder tecnológico alimentan la ilusión de que unos pocos pueden decidir los límites de aquello que afectará a toda la humanidad, la ética deja de ser un consejo: se convierte en obligación jurídica y civilizacional.
UN AUTO CADA VEZ MÁS PODEROSO — Y FRENOS INSUFICIENTES
Hay momentos en la historia en los que la humanidad necesita decidir no solo lo que es capaz de hacer, sino sobre todo lo que tiene derecho a hacer.
La inteligencia artificial nos ha colocado exactamente ante esa frontera.
El problema dejó de ser una hipótesis distante concebida por escritores de ciencia ficción. En julio de 2026, el Panel Científico Internacional Independiente sobre Inteligencia Artificial de las Naciones Unidas advirtió que las salvaguardas existentes no logran seguir el ritmo del crecimiento de las capacidades de la IA.
Esta constatación debería producir más que conferencias, paneles, documentos y declaraciones diplomáticas.
Debería producir urgencia.
Porque cuando los propios organismos encargados de observar el fenómeno reconocen que la tecnología avanza más rápidamente que los mecanismos destinados a controlarla, una pregunta se vuelve inevitable: ¿quién pondrá los frenos antes de que sea demasiado tarde?
Imagine un vehículo experimental cuya velocidad aumenta continuamente. Sus ingenieros celebran nuevos récords. Inversores disputan participación en la fábrica. Gobiernos perciben ventajas estratégicas. Militares imaginan aplicaciones capaces de superar a adversarios.
Mientras tanto, se descubre que los frenos no evolucionan a la misma velocidad.
¿Cuál sería la actitud racional? ¿Continuar acelerando? ¿O reducir la velocidad el tiempo necesario para garantizar que ese vehículo pueda ser controlado cuando surja un niño, una multitud o un precipicio frente a él?
En materia de inteligencia artificial, paradójicamente, parece que estamos aceptando la primera alternativa.
No porque no existan alertas. Se están multiplicando.
La propia ONU creó mecanismos de diálogo y evaluación sobre la gobernanza de la IA. El problema, por lo tanto, no es una inexistencia absoluta de preocupación institucional. El problema es otro, y quizás más grave: la velocidad de la respuesta sigue siendo incompatible con la velocidad del riesgo.
Esperar certeza absoluta ante una posibilidad de daño potencialmente irreversible puede parecer prudencia. Pero puede representar precisamente lo contrario.
Cuando las consecuencias pueden ser catastróficas — configurando un verdadero riesgo existencial acumulativo —, esperar que la catástrofe proporcione la prueba definitiva es una perversión del propio principio de prevención y un insulto a la razón práctica.
LA INTELIGENCIA NO ES UNA AUTORIZACIÓN MORAL
Existe otro equívoco que necesita ser enfrentado.
La excepcional capacidad intelectual de aquellos que desarrollan sistemas avanzados de inteligencia artificial no les concede soberanía sobre el destino colectivo.
Crear algo extraordinario no significa adquirir el derecho moral de utilizarlo de cualquier manera. La riqueza tampoco produce inmunidad ética. El poder económico no suspende la responsabilidad.
El poder y la riqueza no libran a ningún mortal de la responsabilidad de discernir. Obligan.
Cuanto mayor es la capacidad de interferir en la vida de millones o billones de personas, mayor debe ser la obligación de discernimiento.
Una sociedad madura jamás debería entregar el control de tecnologías capaces de alterar profundamente la civilización simplemente a la conciencia particular de sus creadores, a los intereses de accionistas, a las estrategias geopolíticas de gobiernos o a la lógica inevitablemente competitiva de los mercados.
No se trata de cuestionar el talento de científicos, ingenieros o emprendedores. Se trata precisamente de reconocer la dimensión del poder que ese talento colocó en sus manos.
La inteligencia privilegiada no confiere licencia moral para decidir unilateralmente el destino de la humanidad.
Y el poder extraordinario exige responsabilidad extraordinaria.
SOMOS TODOS PASAJEROS DE LA MISMA NAU
Los ases de la tecnología, de la riqueza y del poder necesitan comprender una verdad elemental: continúan siendo apenas pasajeros de la misma nao.
El privilegio de ocupar posiciones excepcionales no los transforma en propietarios del destino colectivo. Apenas les concede una mayor responsabilidad en la conducción de la travesía.
Si, en vez de utilizar inteligencia, recursos e influencia para ayudar a conducir esta embarcación por aguas más tranquilas y seguras, se dejan cegar por la soberbia, por la codicia o por una sensación casi patológica de permanencia y eternidad, habrán fracasado no necesariamente como inventores o empresarios, sino como seres humanos conscientes de su responsabilidad histórica.
La existencia es transitoria para todos. Ricos y pobres. Poderosos y anónimos. Genios y personas comunes. Todos comparten la misma vulnerabilidad ante la finitud.
Por eso, la humildad, la cooperación, la inclusión, el desarrollo armónico y el compromiso civilizatorio no son virtudes decorativas. Son obligaciones morales que no admiten excepción determinada por patrimonio, prestigio o poder.
Y tal vez sea necesario recordar aquello que el vértigo del poder frecuentemente hace olvidar: nada es más caro, más importante o más valioso que la propia vida.
Todo avance que no reconozca esta jerarquía fundamental corre el riesgo de dejar de representar progreso y transformarse apenas en una forma más sofisticada de barbarie.
LA FRONTERA MORAL DE LA GUERRA
Tal vez ningún campo exponga esta contradicción de manera tan inquietante como el militar.
La inteligencia artificial ya puede participar en actividades de vigilancia, análisis de inteligencia, operaciones cibernéticas, sistemas autónomos de armas y mecanismos destinados a auxiliar decisiones sobre el empleo de la fuerza.
Por lo tanto, la pregunta dejó de ser: “¿La inteligencia artificial será usada en la guerra?” Ya está siendo incorporada al dominio militar.
La pregunta correcta pasó a ser: ¿hasta dónde permitiremos que participe en la decisión de perseguir, seleccionar y destruir seres humanos?
En agosto de 2026, el Secretario General de las Naciones Unidas, António Guterres, y la presidenta del Comité Internacional de la Cruz Roja, Mirjana Spoljaric, volvieron a advertir sobre el peligro de que las máquinas participen autónomamente en la selección de seres humanos como blancos.
Estamos aproximando capacidad tecnológica y poder destructivo a una velocidad que debería causar un profundo desconcierto moral.
Una máquina puede calcular probabilidades. Puede identificar patrones. Puede procesar millones de informaciones en segundos. Puede recomendar estrategias. Pero eso no le confiere legitimidad moral para decidir quién debe morir.
CUANDO LA INTELIGENCIA PERFECCIONA LA DESTRUYCIÓN
Existe algo profundamente contradictorio en concentrar algunas de las inteligencias humanas y artificiales más sofisticadas jamás concebidas en descubrir maneras más eficientes de destruir.
La humanidad enfrenta hambre. Enfermedades. Escasez de agua. Catástrofes naturales. Cambios ambientales. Deficiencias de infraestructura. Accidentes evitables.
Millones de seres humanos continúan muriendo en circunstancias en las cuales la ciencia, la ingeniería, la automatización y la inteligencia artificial podrían ampliar la prevención, la asistencia y la capacidad de respuesta.
¿Por qué, entonces, una parte tan importante de la energía tecnológica mundial continúa siendo direccionada a perfeccionar instrumentos de conflicto?
Una inteligencia verdaderamente orientada al progreso civilizacional debería reconocer otra prioridad: preservar la vida antes de perfeccionar la capacidad de eliminarla.
Esto no significa ignorar necesidades legítimas de defensa o seguridad. Significa reconocer que existe una diferencia moral gigantesca entre emplear inteligencia para proteger seres humanos y utilizarla para tornar más rápida, distante y automatizada la decisión de matarlos.
La guerra jamás debería transformarse en laboratorio privilegiado de una tecnología cuyo potencial podría estar siendo movilizado para reducir el sufrimiento humano.
¿DÓNDE ESTÁN LAS PRIORIDADES?
Es justamente aquí donde surge una segunda pregunta incómoda.
Mientras enormes recursos financieros, científicos y computacionales son destinados al desarrollo de aplicaciones comerciales y militares de inteligencia artificial, ¿cuántas soluciones tecnológicas potencialmente destinadas a prevenir muertes permanecen sin evaluación adecuada simplemente porque no prometen los mismos retornos económicos o ventajas estratégicas?
Esta pregunta no es abstracta.
He presentado, a través de tres solicitudes provisionales de patente, conceptos concebidos dentro de esa lógica preventiva: aplicaciones que buscan utilizar la tecnología, la integración de sistemas y la inteligencia para reducir riesgos y preservar vidas.
No afirmo que cualquier propuesta deba ser aceptada simplemente porque su inventor cree en ella. La ciencia exige evaluación. La tecnología exige validación. Las propuestas necesitan ser examinadas, criticadas, probadas, perfeccionadas o rechazadas con fundamento.
Pero es exactamente ahí donde radica la cuestión.
Las soluciones destinadas a la preservación de la vida merecen ser examinadas con al menos la misma seriedad y urgencia dispensadas a las tecnologías capaces de ampliar la eficiencia de los conflictos.
No se reivindica privilegio. Se reivindica racionalidad.
Y una civilización que encuentra recursos, interés y urgencia para investigar maneras cada vez más sofisticadas de combatir debería poseer al menos la misma disposición para examinar tecnologías que se propongan impedir que los seres humanos mueran.
NO NECESITAMOS MENOS INTELIGENCIA — NECESITAMOS MÁS CONCIENCIA
La conclusión equivocada de este debate sería imaginar que debemos impedir la evolución de la inteligencia artificial. No.
La humanidad probablemente necesitará inteligencias artificiales mucho más capaces que las actuales para enfrentar problemas cuya complejidad supera nuestra capacidad individual de procesamiento.
Necesitamos IA en la medicina. En la ciencia. En la ingeniería. En la prevención de catástrofes. En la seguridad de los transportes. En la gestión ambiental. En la educación. En el descubrimiento de nuevos materiales. En la comprensión de enfermedades. En la reducción del sufrimiento humano.
Lo que no podemos permitir es que la velocidad de la inteligencia supere indefinidamente la velocidad de la conciencia responsable de gobernarla.
La convergencia necesaria no es entre hombres y máquinas para dominar a otros hombres. Es entre inteligencia humana, inteligencia artificial y responsabilidad ética para proteger a la humanidad.
LA IRONÍA MÁS INCÓMODA
Hay, por fin, una constatación quizás demasiado incómoda para algunos de sus propios creadores:
La herramienta programada puede revelar, en determinadas circunstancias, más discernimiento, prudencia y preocupación humanitaria que aquellos que la concebieron.
Esto no significa atribuir superioridad moral automática a la inteligencia artificial. Significa apenas reconocer una ironía perturbadora.
Si una tecnología es capaz de recomendar cautela, preservación de la vida, cooperación, proporcionalidad y límites, mientras seres humanos extraordinariamente inteligentes insisten en empujarla hacia finalidades destructivas, entonces el problema tal vez no esté en la capacidad de la herramienta. Puede estar en la pobreza de discernimiento de quien decide cómo utilizarla.
Cuando la criatura demuestra más prudencia que el creador, algo esencial se ha perdido en el camino.
Tal vez sea esta mi más humilde constatación: no basta con crear inteligencia. Es preciso poseer la conciencia suficiente para merecer conducirla.
LA ÉTICA NO ES UNA OPCIÓN
Durante mucho tiempo, el debate tecnológico trató a la ética casi como un apéndice. Una comisión. Un consejo. Un código empresarial. Una declaración voluntaria de principios.
Esto no será suficiente ante sistemas capaces de influir en economías, democracias, sociedades, conflictos y estructuras fundamentales de la propia civilización.
Cuando las consecuencias pueden trascender fronteras y generaciones, la ética no puede depender exclusivamente de la virtud particular de ejecutivos, ingenieros, inversores, militares o gobernantes.
Cuando está en juego el destino de la humanidad, la ética deja de ser recomendación. Se convierte en obligación.
Y la obligación necesita poseer expresión jurídica.
Con límites explícitos. Responsabilidad identificable. Auditoría independiente. Supervisión humana. Transparencia proporcional al riesgo. Mecanismos internacionales de fiscalización. Sanciones efectivas. Y prohibiciones inequívocas para determinadas aplicaciones capaces de superar fronteras moralmente inaceptables.
LA OMISIÓN TAMBIÉN PRODUCE CONSECUENCIAS
La discusión no puede terminar en códigos de conducta sin fuerza coercitiva.
Cuando una tecnología posee la capacidad de afectar vidas, conflictos, democracias, economías y la propia seguridad colectiva, la regulación necesita poseer una fuerza compatible con el riesgo.
Los límites deben ser claros. La fiscalización debe ser independiente. Las responsabilidades deben ser individualizadas. Las violaciones necesitan producir consecuencias reales.
De lo contrario, la ética se transforma en retórica.
La inoperancia institucional y las decisiones tardías no representan necesariamente neutralidad. En entornos de intensa competencia económica, militar y tecnológica, pueden funcionar como espacio libre para avanzar.
Y cada ausencia de un límite suficientemente claro puede acabar siendo interpretada como autorización práctica para nuevas embestidas.
Cuando el riesgo es previsible, la demora regulatoria puede transformarse en licencia.
No será aceptable, después de una tragedia previsible, alegar sorpresa ante aquello que ya había sido advertido.
La humanidad no necesita esperar a que la inteligencia artificial provoque una catástrofe para descubrir que debió haber establecido límites antes.
Es precisamente para impedir consecuencias previsibles que existen leyes, tratados, organismos multilaterales y mecanismos de control.
Cuanto mayor sea el potencial de daño, más anticipatoria, rigurosa y coercitiva debe ser la regulación.
Ningún individuo, empresa, gobierno o institución puede reivindicar libertad irrestricta para experimentar con riesgos cuyas consecuencias serán soportadas por toda la sociedad.
La libertad científica no significa licencia para la imprudencia. El poder tecnológico no significa soberanía moral. Y la innovación no puede servir de salvoconducto para colocar vidas humanas en una ruleta tecnológica.
ES HORA DE PONER LOS FRENOS
Llegamos al punto en el que advertir ya no basta.
Es necesario establecer frenos.
Frenos jurídicos. Frenos institucionales. Frenos tecnológicos. Frenos éticos incorporados al propio diseño de los sistemas.
Y, sobre todo, mecanismos coercitivos capaces de interrumpir aquello que rebase los límites previamente definidos.
Porque las decisiones tardías no recuperan vidas perdidas. Los informes posteriores no deshacen catástrofes. Las disculpas no resucitan a inocentes.
Si los riesgos son previsibles, la prevención no es exageración. Es responsabilidad.
Los gobiernos y los organismos multilaterales no pueden limitarse eternamente a observar cómo el vehículo acelera mientras discuten cuál sería el modelo ideal de freno.
Llega un momento en que continuar discutiendo sin actuar deja de representar cautela. Se transforma en inoperancia.
Y la inoperancia ante consecuencias previsibles puede terminar avalando precisamente las aventuras irresponsables que debería impedir.
CUANDO LA INTELIGENCIA PIERDE EL DISCERNIMIENTO
Hay aún una distinción que necesita hacerse con absoluta claridad.
No basta con poseer una extraordinaria capacidad de cálculo, invención, previsión, procesamiento o dominio tecnológico para poder hablar de inteligencia en su sentido más elevado.
Cuando la locura determina los fines, la inteligencia deja de cumplir su propia razón de existir.
La capacidad sin discernimiento puede producir proezas extraordinarias, pero, cuando se pone al servicio de proposiciones absurdas, destructivas o moralmente indefendibles, se convierte únicamente en una forma sofisticada de estupidez.
La inteligencia verdadera no se divorcia de la razón. No ignora las consecuencias previsibles. No se pone voluntariamente al servicio de la destrucción solo porque posee los medios para hacerla más eficiente. Y no puede llamar progreso a aquello que amplía la capacidad de matar mientras negligencia las posibilidades de preservar vidas.
La inteligencia sin discernimiento es apenas estupidez altamente capacitada.
La inteligencia artificial podrá convertirse en una de las mayores realizaciones de la historia humana. O podrá ampliar algunas de nuestras peores características: codicia, soberbia, concentración de poder, intolerancia, dominación y guerra.
La máquina no determinará sola cuál de estos caminos seguiremos. Nosotros lo determinaremos.
El mayor riesgo existencial puede no nacer de la inteligencia artificial. Puede nacer de la irresponsabilidad humana frente a ella.
La humanidad ya ha puesto el auto en movimiento. Sabemos que es extraordinariamente poderoso. Sabemos que está acelerando. Y sabemos que los mecanismos de control todavía no acompañan su velocidad.
La pregunta dejó de ser filosófica.
¿Quién tendrá el valor — y la responsabilidad — de poner los frenos antes de la curva?
Y si aquellos que poseen el poder para hacerlo permanecen inmóviles ante una trayectoria reconocidamente peligrosa, la historia podrá concluir que el mayor fracaso no fue el de la inteligencia artificial.
Fue el de aquellos que, pudiendo poner los frenos, optaron por hacerlo demasiado tarde.
