English

Based on “The AI Model Built for What LLMs Can’t Do” from Every Watch the original video

The AI That Doesn’t Guess: Unlocking Verifiable Intelligence with Energy-Based Models

In the rapidly evolving world of artificial intelligence, Large Language Models (LLMs) have taken center stage. Their ability to generate human-like text, translate languages, and answer complex questions has captivated the public imagination and drawn immense investment. Yet, for all their impressive capabilities, LLMs operate on a fundamental principle that makes them inherently unsuitable for certain critical tasks: they guess.

This “guessing game” is precisely what Logical Intelligence, a foundational AI company, aims to transcend with a different kind of model: Energy-Based Models (EBMs). Led by founder and CEO, Yee, Logical Intelligence is building AI designed for correctness, verifiability, and tasks where the stakes are too high for hallucination.

“LLMs are naturally non-autoregressive,” Yee explains, righting a common misconception. “There are no sequences of tokens, and that’s what makes it fundamentally different.” This seemingly subtle distinction underpins a radical departure from the LLM paradigm, promising a future where AI can be trusted with our most critical systems.

The Peril of the Guessing Game

Imagine an AI driving your car. Now imagine that AI, an LLM, is prone to hallucinating 20% of the time, potentially taking you to the wrong place. While some might find that “kind of interesting” for a joyride, the stakes escalate dramatically when considering a plane. “How about the plane?” Yee challenges. “You take a plane from yourself to New York and someone says, ‘You know, like 20% of the time it might just like the next word not going to match and it’s going to go down.’ How would you feel about it?”

The answer is obvious: terrifying. Our lives depend on deterministic, verifiable systems. Current planes are run by such systems, and while AI’s integration into every facet of life seems unavoidable, Yee argues that the current LLM approach falls short for mission-critical applications like code generation, chip design, or autonomous vehicles.

The core issue lies in the LLM’s architecture. It’s an autoregressive model, meaning it predicts the next token in a sequence based on the preceding ones. This process, while powerful for language generation, is essentially a “guessing game” based on probabilities derived from vast training data.

“You’re like a black box,” Yee explains, describing the LLM’s internal workings. “You don’t have access to what’s inside until it’s all processed.” To mitigate this, companies often attach external verifiers (like machine-verifiable proof languages such as Lean 4) to check the LLM’s output. However, this is costly. “Even if you attach external verifier, even you fine-tune this LLM specifically for the task you’re trying to create, you’re still not solving the problems of tokens being expensive. It takes compute for you to play a guessing game.”

A Bird’s-Eye View: How EBMs Navigate Reality

To grasp the fundamental difference, consider navigating a complex environment. An LLM, in Yee’s analogy, is like trying to navigate San Francisco with “tunnel vision.” You choose one direction at a time, unable to see other options.

“You cannot choose… one direction at a time,” Yee illustrates. “And sometimes you take the wrong turns just because you hallucinate… like there might be a hole in the road and you’re just going to fall. And you might see this hole, but you cannot turn back because you’re autoregressive LLM.” This leads to wasted compute, endless searching, and potentially never reaching the destination.

An EBM, by contrast, has a “bird’s-eye view all the time.” If it sees a hole, it can choose a different route. This isn’t just an analogy; it speaks to the EBM’s non-autoregressive, token-free nature. There’s no guessing game of what the “next word” or “next action” might be. Instead, EBMs can “oversee all possible scenarios.” Their architecture allows for “self-alignment” as they process information, making them inspectable. “As it’s performing, you can open it anytime during the training and you could see what’s happening in there. So you cannot do this with LLMs.”

This inspectability, coupled with the ability to attach external verifiers, provides “verification sort of on both sides, inside and outside.”

The Physics of AI: Minimizing Energy

At the heart of EBMs is the principle of energy minimization, a concept borrowed directly from physics. “EBM just simply means energy-based model,” Yee clarifies. “What is energy? Energy-based… it comes from physics. It’s a very popular term when you’re trying to minimize the energy.”

Think of it this way: everything in nature seeks a state of lowest energy. When you’re tired after a long day, you don’t dance around; you collapse onto the couch to minimize your energy. This “most comfortable configuration” corresponds to the lowest potential energy.

EBMs apply this universal principle to AI. They construct an “energy landscape” – a metaphorical map of all possible states based on observed data. The highest points on this landscape represent less probable scenarios (e.g., you dancing when tired), while the lowest points represent the most probable and “comfortable” states (e.g., you on the couch).

“Essentially all of this picture can be mapped into something we call energy landscape when the… it’s going to look like a map,” Yee elaborates. “So, you’re going to have highest points, you’re going to have lowest points. The highest points we can associate less probable scenarios… the lowest point is going to be you on the couch.”

During training, the EBM observes data (your behavior, your tiredness, etc.) and learns to shape this energy landscape. It then uses algorithms to navigate this landscape, always seeking the lowest energy states, which correspond to the most probable and optimal outcomes. Crucially, this process doesn’t involve tokens or language; it’s a direct mapping of data to a structured landscape.

Beyond Pattern Recognition: Understanding and Latent Variables

Another critical distinction between EBMs and LLMs lies in their approach to data. LLMs are exceptional at identifying patterns in vast datasets. But do they “understand” in a human sense? Yee argues no. “LLMs don’t understand the data. It’s just you feed a lot of data into it and it’s sort of like, ‘Hey, I got it. Like, okay, I know what’s the most probable scenario here and here we are.’”

EBMs, particularly those with latent variables, go a step further. They not only identify patterns but also “try to understand the pattern.” This “understanding” translates into basic knowledge and rules about the world. For instance, an EBM observing your apartment might infer rules like, “there’s a kitchen for cooking, there’s a bathroom, there’s a sofa.”

This knowledge is stored in “latent variables,” which Yee describes as “knowledge storage” – a dataset about the rules of your data, also in the form of an energy landscape. This allows the EBM to understand its environment and adapt to changes. If you get a new couch, it still knows what to do with it because it understands the underlying rules of furniture and human behavior, not just specific examples.

This capability is particularly powerful for data analysis, where searching for patterns and rules is paramount. “It’s something where language is not going to be helpful to you,” Yee asserts. “If you try to attach the rules about your data and those data is like numbers and some relationships and functions to like American English and words in American English… you’re losing a lot of information.” EBMs work directly with the data, understanding its inherent structure without the translation layer of language.

Furthermore, EBMs are adept at working with sparse or incomplete data, a feature that evolved from traditional EBMs through diffusion models. By injecting noise and changing navigation strategies, they can reconstruct energy landscapes even when data is limited.

Building Trust: From Code to Autonomous Systems

The implications of EBMs for building trustworthy AI are profound. Consider “vibe coding,” where developers use LLMs to generate code, then spend significant time debugging and fixing the patchwork of solutions. Logical Intelligence dreams of “generating formally verified code and automate the coding entirely,” moving from vibe coding to “vibe code specifications.”

EBMs, with their internal and external verifiers, can ensure logical compatibility and compliance. They can generate mathematical proofs to certify code, telling engineers, “Hey, this part of your code is not compatible by logic. This is potentially how you fix it.”

Beyond mere compilation, EBMs address the critical question: “Is this code actually doing what you want it to be doing?” While AI cannot read a human’s mind, EBMs can be constrained to follow a precise set of human-defined rules. “LLM can misbehave based because you cannot constrain it. It just hallucinates. And EBM can be constrained. You can come up with a set of constraints and EBM just forced to follow it.” This determinism is vital for safety-critical applications like autopilot systems, where misbehavior could have catastrophic consequences.

Navigating the AI Ecosystem

Despite the compelling advantages of EBMs, the current AI investment landscape remains heavily skewed towards LLMs. “LLMs historically the first form of AI which gave us aha effect,” Yee acknowledges. The massive investments already poured into LLM infrastructure – from data centers to hardware – create a powerful inertia. “It becomes like a one giant thing which is impossible to break.”

However, Logical Intelligence isn’t seeking to replace LLMs entirely but rather to complement them. “We are very much compatible with LLMs,” Yee explains. “You could put LLM on top of us. EBMs compatible with transformers, transformers can, you know, work with any LLMs.”

This synergistic approach offers a path forward. LLMs can handle language-related tasks, while EBMs can take on spatial reasoning, engineering, data analysis, and other non-language-dependent tasks requiring precision and verifiability. This could make LLM deployments cheaper and more reliable by outsourcing suitable tasks to EBMs. “If somebody comes to big tech LLM and say, ‘Hey, can you try to do my taxes?’ LLM not going to solve this. But if it’s attached to EBM, we can take care of that.”

While some might perceive a plateau in LLM progress, Yee believes that the apparent advancements are often within the existing paradigm, not a fundamental shift. The real breakthroughs, she suggests, will come from exploring alternative architectures like EBMs that address core limitations in correctness and understanding.

As AI permeates every aspect of our lives, the demand for systems that are not only intelligent but also reliable, verifiable, and safe will only grow. By moving beyond the “guessing game” and embracing principles of energy minimization and deep understanding, Energy-Based Models offer a powerful pathway to building the next generation of trustworthy artificial intelligence.

Based on “Are Human Drivers Finally Obsolete? | Freakonomics Radio” from Freakonomics Radio Network Watch the original video

The Road Ahead: How Driverless Cars Went From Sci-Fi Dream to Reality

By PJ Vogt, Host of Search Engine

Imagine a future where the concept of a “driver” refers not to a person, but to a machine. A world where the most dangerous activity many of us routinely engage in—driving a car—is outsourced to an unblinking, unyielding, and un-distracted artificial intelligence. This isn’t a distant sci-fi fantasy; it’s a reality unfolding in cities across the globe right now.

My journey into the fascinating, complex, and often contentious world of driverless cars began not with a grand vision, but with a very personal, very painful experience. After a bench-pressing injury led to a hernia and subsequent surgery, I found myself with limited mobility, visiting a friend in San Francisco. It was then that I took my first ride in a Waymo robo-taxi. The experience was transformative. One moment, I was pressing a button on my phone; the next, a car pulled up, completely empty, its steering wheel turning itself as if by an invisible hand.

“The first time it feels like the first time you’re in an airplane,” I tried to explain to someone recently. “By the third time, it feels like you’re in an elevator.” This immediate normalization of a profoundly futuristic technology made me realize a lot was about to change, and I was confused why more people weren’t talking about it. This led me down a rabbit hole, culminating in a two-part series for my podcast, Search Engine, exploring the history, technology, and human impact of this revolution.

The Echoes of the Past: When New Technology Met Old Fears

To truly understand the seismic shift driverless cars represent, it helps to look back. Picture yourself almost 200 years ago, pre-dawn on a Monday. A hard rapping at your window wakes you—it’s the “knocker-upper,” a job that existed for another century, tapping on windows with a long stick because alarm clocks hadn’t been invented. Outside, the “lamplighter” is still making his rounds, extinguishing the gas street lamps he lit the night before. And you? You’re a “driver,” a person holding the reins of a horse, taking passengers where they need to go.

The knocker-upper is now your smartphone alarm. The lamplighter is the electric streetlight. But the driver? That job, and the routine human task of driving, has persisted. This story is about whether that’s about to change, and how the word “driver” might soon come to mean a machine, just like “dishwasher” or “computer” once referred to people.

As Alex Davies, author of the excellent book Driven: The Race to Create the Autonomous Car, points out, human driving is fraught with limitations. “I can’t always pay attention to everything,” he admits. “I get tired.” Even with the best intentions, we are prone to distraction, fatigue, and road rage. Driving is, for most of us, the riskiest behavior we routinely engage in. Nationally, car accidents cause about 1 in 100 deaths, comparable to guns or opioids.

It’s this inherent human fallibility that forms the core pitch for the driverless car. They don’t get drunk, tired, or distracted. They never text or feel road rage. And they are no longer a distant dream. Robo-taxis are already providing millions of rides in ten American cities, and even more widely in China.

The dream of a self-driving vehicle is almost as old as the automobile itself. When cars first arrived in the 1800s, replacing horses, society lost a crucial element: sentience. A horse wouldn’t simply run off a cliff if you let go of the reins. Early automobiles, powerful and non-sentient, were met with passionate resistance. People feared for jobs—horse breeders, farriers, feed suppliers, carriage manufacturers, and especially “teamsters” (the truckers of their day). They also feared for safety. “Red flag laws” proposed requiring a person to walk in front of a car waving a giant red flag to warn people. One Pennsylvania law, thankfully vetoed, would have required drivers encountering livestock to stop, disassemble their car, and hide the parts behind bushes!

Directionally, those “crazy anti-car activists” were right. Cars did initially wipe out many jobs (though they created more), and they were incredibly unsafe. Cities like Detroit, which initially embraced cars without regulation, saw astonishing death rates, many of them children, in the early 1900s. It took decades for society to adapt, inventing laws, licenses, driver’s ed, highways, seatbelts, and airbags to make driving less deadly. Yet, the safety problem remains.

The Desert Race: Where Robots Learned to Think

The quest to make cars more “sentient” like the horses they replaced continued for decades, fueled by early, often primitive, ideas like radio-controlled cars or magnets under roads. But the true breakthrough wouldn’t arrive until the turn of the millennium, courtesy of a little-known military agency: DARPA.

DARPA, the Pentagon’s research arm, has a mission to keep American technology a generation ahead, having funded everything from GPS to the early internet. In 2002, DARPA director Tony Tether, a former door-to-door salesman with a flair for the dramatic, decided to accelerate driverless car development with a contest: the DARPA Grand Challenge. His original idea—race self-driving cars down the Las Vegas Strip—was quickly deemed “insane” due to the gridlock it would cause. So, the desert outside Las Vegas became the proving ground.

The goal was military: to develop autonomous vehicles that could navigate roads potentially filled with explosive devices, saving American soldiers’ lives. The prize: $1 million. Rules were open: any vehicle type, but no attacking other competitors. Many entrants, surprisingly, came from the world of BattleBots.

This race was not just about the vehicles; it was about the engineers who would go on to lead the billion-dollar companies creating today’s driverless cars. Their differing philosophies—from methodical academic rigor to entrepreneurial risk-taking—would shape the future.

One such engineer was Chris Urmson, then a PhD student at Carnegie Mellon University. He joined the “Red Team” to build “Sandstorm,” a bright red Humvee bristling with futuristic sensors. For Urmson, the challenge was teaching a computer the basics of operating a Humvee, from steering to braking.

Then there was Anthony Levandowski, a charming, gangly Berkeley grad student and hustler. Lacking the resources of academic powerhouses, Levandowski opted for a radical approach: the race’s only self-driving motorcycle, “Ghost Rider.” It had almost no chance of winning, but it was guaranteed to get attention.

The 2004 Grand Challenge was, in a word, “an utter hysterical disaster.” Ghost Rider immediately toppled over because Levandowski forgot to flip a stabilization switch. Other vehicles fared no better, driving onto berms, flipping, or inexplicably U-turning back to the start. Even Sandstorm got stuck, its tires melting from the effort. It was a disaster, but it had flushed out and jump-started a nascent community of roboticists.

Watching this debacle from the sidelines was Sebastian Thrun, a legendary German-born roboticist and AI expert who had taught at Carnegie Mellon before moving to Stanford. Thrun saw a fundamental error in everyone’s approach. “All the teams treated this like a hardware problem,” he observed. “I looked at this and said, ‘Well, wait a minute… that’s actually really a software problem.’”

Thrun, who had lost a friend to a car accident as a teenager, envisioned something far grander than military applications. He saw the potential to save “a million lives a year” worldwide if driverless cars became ubiquitous. This personal mission would drive his subsequent work.

Eighteen months later, in October 2005, DARPA doubled the prize to $2 million for the second Grand Challenge. Chris Urmson returned with the Carnegie Mellon team. Anthony Levandowski’s motorcycle still didn’t work, getting knocked out in qualifiers. But Thrun, with his Stanford team, brought a modest blue Volkswagen SUV named “Stanley.”

Stanley was Thrun’s software-first vision brought to life. He focused on artificial intelligence, primitive by today’s standards, but revolutionary for 2005. Stanley’s “eyes” looked far ahead, recording what it saw as it drove down dirt roads. It could then “train itself,” learning to distinguish good driving surfaces (grass) from bad ones (mud), detecting patterns and generalizing its knowledge 30 times a second.

The 2005 race was a resounding success. Multiple vehicles finished the 132-mile circular maze. Stanley, the unassuming blue SUV, passed the bulkier Carnegie Mellon entries, conquering a treacherous mountain pass, and crossed the finish line first. Thrun, dressed like a race car driver, celebrated a victory not just for his team, but for the entire “community” of roboticists. It was a made-for-TV moment, years before the cutthroat competition for driverless cars would begin.

Google’s Secret Project: Teaching a Machine to Nudge

The success of the DARPA Grand Challenge caught the eye of another spectator that day: Larry Page, co-founder of Google, who attended in a baseball hat and sunglasses as a disguise. Page, who had wanted to do his grad school thesis on autonomous vehicles before being steered toward search engines, was captivated.

He soon hired Sebastian Thrun, along with Anthony Levandowski, initially for Google Street View, modifying Stanley’s roof-mounted cameras to photograph American streets. But Page’s true dream was the driverless car. In 2009, he approached Thrun with a mission: “Sebastian, I think you should build a self-driving car that can drive anywhere in the world.”

Thrun’s immediate reaction was a resounding “No.” He believed taking the technology from the empty desert and putting it on a bustling San Francisco street would kill someone. Page persisted, day after day. Finally, Page challenged him: “Give me the technical reason why it can’t be done.” Thrun went home, and to his profound realization, he couldn’t think of one. “Experts are usually experts of the past, not the future,” he reflected. “If you ask an expert about innovation, something crazy new, they’re the least likely person to say, ‘Yes, it can be done.’”

Thus began Project Chauffeur in 2009, Google’s secret self-driving car initiative. Led by Thrun, with Chris Urmson running day-to-day operations, Anthony Levandowski on hardware, and Dmitri Dolgov on planning, the small team of 11 engineers reported directly to Larry Page. They had two challenges: safely log 100,000 miles on public roads, and complete the “Larry 1K”—ten tricky 100-mile routes across California without a single human takeover.

To get started, they licensed Stanford’s code and Levandowski bought eight Toyota Priuses, retrofitting them with radar, cameras, and a spinning 360° lidar system. These cars, initially given cool names, quickly became “Prius 27” and so on, as the fleet expanded.

Don Burnett, a researcher who had joined the team after losing a friend in a car accident, worked on “nudging behavior.” Just as a human driver instinctively nudges left when a large truck passes on the right, Burnett’s job was to teach a computer this subtle, often unconscious, behavior. “You’re trying to encode the behavior that you would use as a driver under kind of partially good perception,” he explained. “It’s a really tricky problem.”

Early testing was done in secret, in the Shoreline Amphitheatre parking lot or an empty airplane runway near Google’s offices. But in spring 2009, they took a Prius onto the Central Expressway. Immediately, a critical flaw emerged: the car was “swerving wildly,” like a “drunken sailor.” The small oscillations that went unnoticed on a runway became a major problem on a public road.

The team adopted rigorous safety precautions: two-person teams, a safety driver ready to take over, and a partner watching a monitor, calling out discrepancies between what sensors saw and what was actually on the road. This was the painstaking process of teaching a car to drive: logging errors, troubleshooting, updating code.

Burnett became obsessed with the question, “Why do humans drive the way they drive?” He found there were no simple answers. The machine learning approach revealed that context profoundly affects perceived comfort. For example, a lateral acceleration of 2 meters per second squared might be comfortable on a highway on-ramp, but doing the same in a cul-de-sac U-turn would feel “incredibly uncomfortable,” like “Mario Kart.” The limit for a cul-de-sac, it turns out, is around 0.75 m/s^2. “It’s almost three times less than you would be willing to tolerate as you accelerate onto a highway,” Burnett noted. These subtle, contextual nuances were critical to making the experience comfortable for passengers.

By 2010, the team was on a roll. They started “knocking out” the Larry 1K routes, each presenting unique challenges, from the Bay Bridge to Lombard Street. The challenge was set up like a video game: try, fail, learn, repeat, until a route was completed without human intervention. They expected it to take two years; they did it in just over one. They celebrated each completed route with a bottle of $13.99 Korbel champagne, signing their names on it.

By fall 2010, the Larry 1K was complete. The team celebrated, throwing each other in the pool at Sebastian Thrun’s house. They had pulled off a miracle, safely navigating tricky California roads with a driverless car, albeit with human supervision and extensive coding. But as the champagne bubbles settled, a new question arose: “Okay, and now what?”

The Crossroads of a Revolution

The success brought with it new challenges. What exactly was the product they were building? Thrun recalled internal debates: should they have bought Tesla (worth $2 billion at the time)? Was this an assistive technology, a feature to aid human drivers, or a disruptive replacement, waiting until cars could fully drive themselves, perhaps as robo-taxis? Thrun eventually gravitated towards the latter.

But with their secret out, competition would arrive. The team itself would begin to schism, and one member, believing the pace too slow, would take matters into his own hands in an extreme way—a story for another time.

The journey of the driverless car is a testament to human ingenuity, born from personal tragedy, fueled by visionary engineers, and refined through relentless trial and error. It’s a story of how technology, once confined to desert races and secret labs, is now quietly, inexorably, reshaping our daily lives, transforming our cities, and forcing us to confront a future where the driver, as we know it, may finally become obsolete.

Based on “Jensen Huang – Will Nvidia’s moat persist?” from Dwarkesh Patel Watch the original video

The Maestro of Moats: Jensen Huang’s Bold Defense of Nvidia’s AI Dominance

In the exhilarating, often dizzying world of artificial intelligence, one company has emerged as the undisputed kingmaker: Nvidia. Its GPUs power the most sophisticated AI models, driving unprecedented technological leaps and a staggering market valuation. Yet, as the industry matures and competition intensifies, a critical question looms: can Nvidia’s formidable “moat” truly persist?

In a candid conversation with Dwarkesh Patel, Nvidia CEO Jensen Huang offered a robust defense of his company’s enduring advantage, revealing a multi-layered strategy that spans from fundamental physics to global supply chain orchestration and a unique philosophy of strategic investment.

From Electrons to Tokens: Nvidia’s Core Identity

A common, perhaps “naive,” interpretation of Nvidia’s business suggests vulnerability. Observers note that Nvidia designs software (GDS2 files) and relies on external partners—TSMC for logic, SK Hynix, Micron, and Samsung for memory, and Taiwanese ODMs for assembly. If AI is poised to commoditize software, could Nvidia, at its core a software company, be next?

Jensen Huang dismisses this notion with a foundational principle: “In the end, something has to transform electrons to tokens.” This isn’t just a technical process; it’s an “incredible journey” demanding immense “artistry, engineering, science, and invention.” He posits that making one “token” more valuable than another—the very essence of AI’s progression—is inherently difficult to commoditize.

Nvidia’s role, as Huang sees it, is to be the indispensable orchestrator of this transformation. “The input is electrons, the output is tokens. In the middle is Nvidia,” he states. Their job is to do “as much as necessary and as little as possible” to enable this transformation at “incredible capabilities.” The “as little as possible” part is key: Nvidia partners extensively, building the largest ecosystem of upstream and downstream partners, from chip manufacturers and memory providers to cloud companies, application developers, and model makers. This five-layer cake of AI, according to Huang, is where Nvidia embeds itself, focusing on the “insanely hard” parts that cannot be commoditized.

The Software Paradox: More Tools, Not Less

The fear that AI will commoditize enterprise software is also, in Huang’s view, misplaced. He argues the opposite will happen: “I think the number of agents is going to grow exponentially, and the number of tool users is going to grow exponentially.” Tools like Excel, PowerPoint, Cadence, and Synopsys won’t disappear; they’ll become even more widely used, albeit by AI agents rather than solely human engineers.

“Today we’re limited by the number of engineers. Tomorrow, those engineers are going to be supported by a bunch of agents,” Huang predicts. This means an explosion in the “instances of all these tools,” leading to a “skyrocket” in software company revenues. The only current limitation, he notes, is that “the agents aren’t good enough at using their tools yet.” Once they are, or once companies build agents specifically for their tools, the software market will expand dramatically.

The Supply Chain: A Moat Forged in Trust and Scale

Beyond technological prowess, Nvidia’s moat extends deep into the global supply chain. Recent reports of Nvidia’s colossal purchase commitments—potentially $250 billion—spark questions: is this simply locking up scarce components? Huang confirms these “enormous commitments,” both explicit and implicit, are a significant factor.

He describes a unique, almost evangelical role he plays in inspiring upstream partners. “I said to the CEOs, ‘Let me tell you how big this industry is going to be, let me explain to you why, let me reason through it with you, and let me show you what I see.’” This process of “informing, inspiring, and aligning” convinces suppliers to make massive investments for Nvidia that they might not for others. Why? Because “they know that I have the capacity to buy their supply and sell it through my downstream.”

Nvidia’s GTC conference, Huang explains, serves as a physical manifestation of this ecosystem, bringing together the entire “360 degrees, the entire universe of AI.” It’s where upstream and downstream partners connect, see the latest AI advances, and meet “AI natives” – the startups building the future. This visibility reinforces their confidence in Nvidia’s demand, allowing the company to “build for a future” where its scale could reach “a trillion dollars.”

Conquering Bottlenecks: A Two-to-Three-Year Problem

The sheer scale of Nvidia’s growth raises legitimate concerns about the supply chain’s ability to keep pace. With Nvidia being the largest customer on TSMC’s advanced nodes (N3, N2) and AI projected to consume a dominant share of future capacity, how can they continue to double output year after year?

Huang frames this as a “good condition”: instantaneous demand exceeding supply signifies a booming industry. He acknowledges temporary bottlenecks, even humorously suggesting inviting “plumbers” to GTC as a critical component. However, he asserts that hardware-related bottlenecks are inherently short-lived.

“If we’re too far apart, if one particular component is too far away, the industry swarms it,” he explains. He cites CoWoS packaging technology as an example: initially a bottleneck, it was “swarmed” with investment and scaled rapidly. Now, TSMC is aligning CoWoS and future packaging with logic and memory demand.

Nvidia actively “prefetch[es] the bottlenecks years in advance,” investing in new technologies (like silicon photonics with Lumentum and Coherent) and licensing patents to keep the ecosystem open. His confidence in scaling is striking: “None of that is impossible to scale quickly. All of that is easy to do within two or three years. You just need a demand signal. Once you can build one, you can build ten, and once you can build ten, you can build a million.”

The real long-term concern, in Huang’s view, isn’t chip or packaging capacity, but rather fundamental energy policy. “You can’t create an industry without energy,” he warns, highlighting the need for robust energy infrastructure to support the reindustrialization efforts and the construction of “AI factories.”

Moreover, capacity increases are only one part of the equation. Nvidia constantly drives “computing efficiency by 10x, 20x, and in the case of Hopper to Blackwell, 30x to 50x.” This combination of increased supply and dramatically improved efficiency mitigates the impact of any temporary bottlenecks.

Beyond TPUs: The Power of Accelerated Computing

The rise of custom ASICs like Google’s TPUs, which power major models like Claude and Gemini, presents a direct competitive challenge. Critics argue that AI primarily involves predictable matrix multiplies, for which specialized TPUs are optimally designed, potentially outperforming flexible GPUs.

Huang strongly refutes this, emphasizing Nvidia’s focus on “accelerated computing, not a tensor processing unit.” He stresses that while matrix multiplies are important, they are not the only part of AI. The invention of new attention mechanisms, hybrid architectures, and fused diffusion/autoregressive techniques demands a “generally programmable” architecture.

“The ability to invent new algorithms is really what makes AI advance so quickly,” Huang states. Moore’s Law, with its 25% annual gains, isn’t enough; 10x or 100x leaps require fundamental algorithmic changes, which are only possible with programmable systems like CUDA. He points to the 50x energy efficiency jump from Hopper to Blackwell, achieved through “new models, like MoEs, that are parallelized, disaggregated, and distributed across a computing system.” Nvidia’s “extreme co-design company” approach, affecting processors, systems, fabric, libraries, and algorithms simultaneously, is what enables these leaps.

CUDA’s Enduring Reign: Ecosystem, Install Base, and TCO

Even with hyperscalers like OpenAI developing custom kernels with tools like Triton, Huang argues that CUDA remains invaluable. He highlights three key advantages:

1. Richness and Programmability: CUDA is a vast ecosystem, supporting every framework. Nvidia actively contributes to tools like Triton, ensuring their backend leverages Nvidia’s technology. This provides a trusted, robust foundation for developers.
2. Install Base: “The single most important thing you want is an install base,” Huang says. With “several hundred million GPUs out there now,” developers building on CUDA know their software will run “everywhere,” from cloud servers to robots. This ubiquity is “incredibly valuable.”
3. Versatility and Reach: Nvidia systems are in “every cloud” (Google, Amazon, Azure, OCI) and available on-prem. This unparalleled versatility means AI companies aren’t locked into a single provider, making Nvidia the default choice for those seeking maximum reach.

Huang also asserts that Nvidia offers the “best performance per TCO in the world, bar none.” He challenges competitors like TPU and Trainium to demonstrate superior cost-effectiveness using benchmarks like InferenceMAX and MLPerf, claiming “nobody wants to show up.” He also points to Nvidia’s “highest tokens per watt architecture,” which maximizes revenue generation for data centers. This combination of superior TCO, energy efficiency, and market reach creates a powerful “flywheel” effect.

A Surprising Admission: Nvidia’s Strategic Investments

Perhaps the most surprising revelation came when discussing why major AI companies like Anthropic have diversified their compute away from Nvidia, partnering with Google/Broadcom for TPUs. Huang conceded a past “mistake”: “I didn’t deeply internalize how difficult it would be to build a foundation AI lab like OpenAI and Anthropic, and the fact that they needed huge investments from the supplier themselves.”

He explains that Google and AWS were able to make multi-billion dollar upfront investments in Anthropic, securing their compute business, something Nvidia was not “in a position to do” at the time. “I didn’t realize we needed to,” he admitted, thinking they could “just go raise from VCs, for God’s sakes.”

“But I’m not going to make that same mistake again,” Huang declared. Nvidia is now “delighted to invest in OpenAI” and Anthropic, recognizing that “the world needs them to exist.” This strategic shift, from purely selling hardware to also investing in key AI labs, underscores Nvidia’s commitment to nurturing the entire AI ecosystem.

Despite having vast cash reserves, Nvidia resists becoming a cloud provider itself. This adheres to their “as much as needed, as little as possible” philosophy. Building the core computing platform is a unique contribution, but cloud services are a crowded field where others can step in. Instead, Nvidia invests in “neoclouds” like CoreWeave, Nscale, and Nebius, ensuring the ecosystem thrives.

Finally, Huang reveals a core principle: “Don’t pick winners.” Drawing from Nvidia’s own early struggles in the graphics industry, where their initial architecture was “precisely wrong,” he emphasizes humility. “If you would have taken those 60 graphics companies and asked yourself which one was going to make it, Nvidia would be at the top of that list not to make it,” he muses. Therefore, Nvidia supports all foundation model companies, viewing it as “imperative to our business.”

The Allocation Myth: No Highest Bidder, Just Orders

Addressing persistent rumors about how Nvidia allocates its scarce GPUs, Huang firmly refutes the idea of “fracturing the market” or favoring the “highest bidder.” He outlines a straightforward process: forecasting, placing purchase orders, and “first in, first out.”

“If you don’t place a PO, all the talking in the world won’t make a difference,” he states. While minor adjustments might occur based on a customer’s data center readiness to maximize throughput, the core principle is simple. He even debunks the widely reported anecdote of Larry Ellison and Elon Musk “begging for GPUs” at dinner, confirming the dinner happened but “at no time did they beg for GPUs. They just had to place an order.”

Why not simply sell to the highest bidder? “Because it’s a bad business practice,” Huang asserts. “You set your price and then people decide to buy it or not.”

A Moat Built on Vision and Execution

Jensen Huang’s narrative paints a picture of a company whose dominance is not accidental but deeply strategic, built on a unique blend of technological innovation, ecosystem cultivation, and prescient market understanding. From the fundamental transformation of “electrons to tokens” to the orchestration of a global supply chain, Nvidia’s moat is multifaceted.

It’s a moat reinforced by an unwavering commitment to programmability, a vast install base, and an ecosystem that fosters continuous innovation. And while past missteps are acknowledged, Nvidia’s willingness to adapt its investment strategy shows a dynamic, forward-looking approach. In the relentless race for AI supremacy, Jensen Huang believes Nvidia’s position, earned through decades of dedicated effort, is not just persistent, but increasingly indispensable.

Based on “Trump’s Risky Strategy to Blockade Iran’s Blockade” from New York Times Podcasts Watch the original video

Strait of Hormuz: Trump’s High-Stakes Gambit in the Blockade of Blockades

The waters of the Strait of Hormuz, a critical choke point for global oil supplies, have become the stage for a perilous game of “blockade chicken.” In a bold and risky maneuver, the United States has deployed a formidable naval presence, enforcing what it calls a blockade of Iran, designed to bring an end to a simmering conflict on American terms. But this isn’t just any blockade; it’s a direct counter to Iran’s own control over the vital shipping channel, creating a complex and potentially explosive situation that experts warn could reshape the global economy for years to come.

At its core, the American strategy is stark: strangle Iran’s economy by cutting off its oil and gas revenues, forcing Tehran back to the negotiating table. “We’re blockading the ports in Iran where they get oil and gas shipments,” explains White House correspondent David Sanger. “Without oil and gas money, Iran has no economy.” This aggressive approach, however, carries immense dangers and uncertain outcomes, prompting a critical look at its strategy, the risks it poses, and whether it can truly work.

The Genesis of a Risky Strategy

The decision to impose a naval blockade emerged directly from a diplomatic impasse. Following Vice President JD Vance’s recent, fruitless negotiations in Pakistan—which saw him return empty-handed—the Trump administration found itself confronting a “pretty messy situation.” A ceasefire was in place, but Iran continued to exercise control over who transited the Strait of Hormuz, a vital artery for global commerce.

For 47 years, since the Islamic revolutionary government came to power in 1979, Iran had largely allowed free passage through the strait. But in the recent conflict, they had begun to assert control, stopping traffic and even imposing “tolls” on passing ships, some reportedly as high as $2 million. This was a dynamic the US administration found “intolerable.” The US Navy’s objective became clear: reverse the situation and ensure that it was the US, not Iran, controlling traffic through the strait. While this sounds straightforward on paper, given the might of the US Navy, its execution promises to be anything but.

An Act of War: Defining the Blockade

Militarily, a naval blockade is a grave measure. “By definition, a blockade is an act of war,” states military correspondent Eric Schmidt. It involves one nation using its military power to block the transit of ships from other countries, either through the threat of force or the actual boarding and seizing of vessels.

The US deployment is substantial: approximately 10,000 sailors aboard more than a dozen warships, ranging from aircraft carriers to destroyers and Marine-carrying vessels, are now positioned outside the Strait of Hormuz. Their mission is to intercept ships either leaving the Persian Gulf or attempting to enter it.

The primary target of this economic strangulation is Iran’s oil exports. Interestingly, Iran had managed to maintain its own oil shipments through the strait even while exerting control and threatening other vessels. This allowed Tehran to continue funding its war efforts, particularly the Islamic Revolutionary Guard Corps (IRGC), which is almost entirely dependent on oil revenues. The US blockade, therefore, aims to cut off this crucial lifeline.

The ultimate goals of this audacious move are two-fold: to reclaim control of the strait from Iranian influence and, critically, to force Iran back to the negotiating table. President Trump aims to leverage control over the strait to compel Iran to concede on key issues, such as its nuclear stockpiles and uranium enrichment program.

The Looming Dangers: Blowback and Boomerangs

Such a high-stakes gamble comes with equally high risks. The panel of experts identified several potential “blowbacks” that could escalate the conflict dramatically.

1. Iranian Retaliation: The most immediate concern is that Iran’s IRGC could lash out, attacking US Navy ships and triggering a major escalation of hostilities.
2. China’s Wrath: A significant portion—an estimated 90%—of Iran’s oil exports are destined for China, often carried on Chinese-flagged vessels. White House correspondent David Sanger highlights the danger: “A simple, efficient way to really piss off your superpower adversary is to start to systematically deprive them of oil.” This could severely complicate an upcoming meeting between President Trump and Beijing, intended to focus on trade and security, and further strain relations already tense with reports of China considering arming Iran.
3. Regional Energy Infrastructure Attacks: Energy reporter Rebecca Elliot warns of a “third big category of risk”: Iran restarting attacks on energy infrastructure across the Persian Gulf. Such actions carry “long-term risks for the global energy system and the global economy.” The International Energy Agency has already estimated that over 80 energy sites in the region have been damaged, and restoring pre-war production levels could take up to two years.

Early Days: A “Quarantine” in Action

In its initial 48 hours, the US blockade has presented a complex picture. Eric Schmidt clarifies that what President Trump terms a “blockade” is “really more of a quarantine.” The US Navy is strategically positioned outside the strait, using drones and open-source intelligence to monitor ships bound for Iranian ports. Suspect vessels are contacted via radio, with the threat of boarding parties—Marines or Navy Seals—to inspect cargo if they refuse to comply.

The deterrent effect appears to be working, at least partially. Central Command reported no “interdictions” or “violations” in the first 24 hours. Crucially, six vessels departing Iranian ports reportedly turned around after being contacted by US Navy ships. “It looks like for now he has stopped the Iranians from shipping oil out and thus fueling their economy and their government,” Sanger notes, calling it a “halfway” success.

However, a major question mark remains: Can commerce from other Gulf states—like the UAE—now pass safely through the strait? The situation is, as Sanger puts it, “a blockade by the US of a blockade by Iran,” making it incredibly messy. The global economy hinges on whether shippers will gain the confidence to navigate this precarious route.

Global Ripples and a Strait Transformed

The trepidation among shipping companies and captains is “very high,” according to Rebecca Elliot. Insurance costs for vessels attempting to transit the strait have soared. Many in the industry are now asking not if the strait will reopen, but if it will ever return to its pre-war state of free passage and minimal risk. The consensus among experts is grim: “Probably not.”

David Sanger agrees, noting that Iran has “discovered this kind of superpower they have” in their ability to control the strait with minimal military effort. The genie, it seems, cannot easily be put back in the bottle.

Proposals for the strait’s future include President Trump’s brief, intriguing suggestion of a joint business venture with Iran’s Ayatollah Khamenei, or more seriously, an international consortium. Such a body, involving Iran, Oman, the US (providing security), China, India, and European nations, would monitor traffic, potentially charge tolls, and divide revenues. However, this would demand a level of international cooperation and power-sharing that the current US administration has not typically embraced.

The long-term implications for global energy infrastructure are profound. If the Strait of Hormuz no longer guarantees free, unimpeded commerce, the world will need alternatives. These include:

• Alternative Routes: Building more pipelines from Gulf countries to world markets, bypassing the strait. While some options exist in Saudi Arabia and the UAE, these are complicated by the need to traverse other nations’ territories.
• Diversified Oil Sources: Increased demand for oil from other regions that don’t require transit through the strait.
• Accelerated Energy Transition: Higher oil prices inherently make alternative energy sources—nuclear, solar, batteries—more economically attractive, potentially accelerating the global shift away from fossil fuels.

“The entire world of energy and energy infrastructure could end up changing because of this war and to a degree because of this blockade,” says Elliot, “and that could end up long outlasting the conflict itself.”

A Contest of Endurance

Ultimately, this blockade is a test of wills. “We are now entering a contest over which country, the United States or Iran, can endure the pain of this blockade over the next few months,” Sanger posits.

Iran is betting that President Trump will be forced to back down. Rising gas prices, particularly as midterm elections approach, pose a significant political problem for the Republican party and Trump’s domestic agenda. Iranian leadership has openly taunted Trump about gas prices, with one negotiator reportedly stating, “You could be nostalgic for five or six dollar a gallon gas.”

The US, conversely, believes economic pressure will succeed where military action failed. By cutting off Iran’s main revenue source and specifically targeting the IRGC, Washington hopes to compel Tehran to “cry uncle” and accept American terms.

The outcome remains highly uncertain. “If anybody tells you they know which side is not going to be able to withstand the pain first, I’m not sure I’d believe them yet,” Sanger concludes.

The Costs of Sustained Pressure

Even if successful, the blockade comes at a steep price. The Pentagon asserts its ability to sustain the operation indefinitely, but this drains resources from other critical areas. Ships and munitions urgently needed in the Indo-Pacific to counter China or address North Korea are being diverted. Interceptors and other armaments are being pulled from European Command, impacting support for Ukraine.

The operation alone requires some 10,000 US Navy, Marine Corps, and other service personnel, a number that could swell to over 50,000 if the region remains a primary focus and hostilities resume.

While the current full-on war has largely ceased, the underlying tensions and strategic gaps between the US and Iran—over nuclear programs, regional conflicts, and more—remain enormous. Both sides face immense pressure to avoid a return to widespread military conflict, as Trump’s base fragmented during the earlier fighting, Congress was frustrated, and allies were conspicuously absent. Iran, too, is desperate for the war to end due to its devastating economic impact.

The question now is not whether the war ends, but “on whose terms it ends.” As France and Britain begin to develop their own plan to reopen the Strait of Hormuz—a plan that may exclude the United States and only commence after the war’s conclusion—the enduring legacy of this high-stakes blockade may be a permanently altered geopolitical and energy landscape.

한국어

“The AI Model Built for What LLMs Can’t Do” — Every 기반 기사 원본 영상 보기

LLM이 풀지 못하는 난제: ‘정확성’과 ‘이해’를 추구하는 AI, EBM의 부상

최근 인공지능(AI) 분야는 대규모 언어 모델(Large Language Model, LLM)의 혁신적인 발전으로 전례 없는 주목을 받고 있습니다. 텍스트 생성부터 번역, 복잡한 질문 답변에 이르기까지 LLM의 능력은 실로 놀랍습니다. 그러나 이러한 눈부신 발전의 이면에는 ‘정확성(correctness)‘과 ‘신뢰성(reliability)‘이라는 본질적인 한계가 존재합니다. 과연 우리는 AI가 생성하는 결과물을 맹목적으로 신뢰할 수 있을까요? 특히 자율주행차나 의료 진단과 같은 미션 크리티컬(mission-critical) 시스템에 AI를 적용할 때, 이러한 질문은 더욱 중요해집니다.

여기, 이러한 LLM의 근본적인 한계를 극복하고, 더욱 예측 가능하며 검증 가능한 AI를 추구하는 새로운 접근 방식을 제시하는 기업이 있습니다. 바로 파운데이셔널 AI(foundational AI) 기업인 로지컬 인텔리전스(Logical Intelligence)의 창립자이자 CEO인 이(Yee)입니다. 그는 기존 LLM의 한계를 명확히 지적하며, ‘에너지 기반 모델(Energy-Based Model, EBM)‘이라는 대안적 아키텍처가 AI의 미래에 필수적이라고 강조합니다.

인공지능의 신뢰성: 선택이 아닌 필수

로지컬 인텔리전스는 LLM과 EBM을 모두 활용하는 하이브리드 접근 방식을 취하지만, 궁극적으로는 EBM을 통해 AI의 ‘정확성’과 ‘검증 가능성’ 문제를 해결하고자 합니다. 이 CEO는 오늘날 AI가 코드 생성이나 칩 설계와 같은 핵심 시스템에 사용되지만, “과연 그 결과물이 얼마나 정확하고 합리적인가?”라는 질문을 던지는 이들은 매우 적다고 지적합니다. 그는 “결과가 작동하기만 하면 왜 정확성이 중요한가?”라는 질문에 대해 자율주행차와 비행기 조종의 예를 들어 설명합니다.

“만약 AI가 운전하는 차에 당신이 타고 있는데, 20% 확률로 환각(hallucinate)을 일으켜 엉뚱한 곳으로 갈 수 있다고 한다면 어떻겠습니까?” 그는 더 나아가 “비행기가 20% 확률로 다음 단어를 잘못 예측해 추락할 수 있다고 한다면 어떻겠습니까?”라고 묻습니다. 물론 현재의 비행기는 결정론적(deterministic) 시스템으로 잘 작동하고 있지만, 이 CEO는 AI가 모든 시스템에 적용되는 미래가 불가피하다고 말합니다. 은행 업무에서 AI가 자동화를 돕고 의사결정을 개선하는 것처럼, AI는 우리의 시간을 절약하고 더 창의적인 일에 집중할 수 있게 할 것입니다. 그러나 이러한 ‘자동화’와 ‘창의성’은 ‘신뢰성’이라는 전제 없이는 불가능합니다.

LLM은 본질적으로 언어 기반 모델이며, 그 아키텍처는 내부 검증을 어렵게 만듭니다. 마치 ‘블랙박스’와 같아서, 모든 처리 과정이 완료되기 전까지는 내부를 들여다볼 수 없습니다. 물론 린 4(Lean 4)와 같은 기계 검증 가능한 증명 언어를 사용하여 LLM의 출력을 외부에서 검증할 수는 있습니다. 하지만 이는 여전히 LLM이 ‘추측 게임’을 벌이는 과정에서 발생하는 막대한 컴퓨팅 비용과 토큰 비용 문제를 해결하지 못합니다. LLM은 여전히 비싼 컴퓨팅 자원을 소모하며 다음 토큰을 예측하는 ‘추측 게임’을 해야 합니다.

LLM과 EBM: 근본적인 아키텍처의 차이

이 CEO는 이러한 문제가 EBM을 통해 해결될 수 있다고 설명합니다. EBM은 ‘에너지 기반 모델(Energy-Based Model)‘의 약자로, 토큰을 사용하지 않는 ‘토큰 프리(token-free)’ 모델입니다. 그는 EBM의 근본적인 차이를 설명하기 위해 물리학의 ‘에너지 최소화 원리’를 비유로 듭니다.

에너지 최소화 원리: 물리학에서 모든 시스템은 에너지를 최소화하려는 경향이 있습니다. 예를 들어, 우리가 편안하게 의자에 앉아 있는 것은 에너지를 최소화하는 자연스러운 상태입니다. 이론 물리학자들은 시스템의 에너지와 관련된 항(라그랑지안)을 정의하고, 이를 최소화하여 시스템의 운동 방정식과 보존 법칙을 도출합니다. 이 원리는 시스템이 가장 안정적이고 확률이 높은 상태를 찾아가는 과정을 설명합니다.

AI에서 이 원리는 시스템이 정보를 처리할 때 ‘에너지 함수’를 구성하고 이를 최소화하는 방식으로 적용됩니다. 즉, EBM은 가장 ‘확률 높은’ 또는 ‘안정적인’ 상태를 찾아가는 방식으로 작동합니다. 이 CEO는 이를 “피곤한 댄이 집에 돌아와 가장 편안한 자세로 소파에 앉을 것”이라는 예측에 비유합니다. 댄이 설거지를 하거나 집안을 돌아다니는 등 다양한 상태가 있을 수 있지만, 피곤할 때 가장 확률 높은 시나리오는 소파에서 휴식하는 것입니다. EBM은 이처럼 모든 가능한 시나리오를 ‘에너지 지형(energy landscape)‘으로 매핑하고, 가장 낮은 지점(가장 확률 높은 상태)을 찾아갑니다.

EBM의 핵심 특징:

• 비순차적(Non-Autoregressive): LLM처럼 토큰의 순서를 예측하는 방식이 아닙니다. 이로 인해 ‘추측 게임’이 없어지며, 비용이 훨씬 저렴해집니다.
• 검증 가능성(Inspectability): EBM은 ‘블랙박스’가 아닙니다. 훈련 과정 중 언제든지 모델 내부를 들여다보고 어떤 일이 벌어지고 있는지 확인할 수 있습니다. 이는 LLM 아키텍처로는 불가능한 일입니다.
• 자기 정렬(Self-alignment): 정보 처리 과정에서 스스로 정렬하는 아키텍처를 가지고 있어, 검증 작업에 유리합니다.
• 내부 및 외부 검증: EBM은 아키텍처 자체에 검증 기능이 내재되어 있을 뿐만 아니라, LLM에 사용되는 것과 동일한 외부 검증기를 추가로 부착할 수 있어 ‘이중 검증’이 가능합니다.

EBM의 ‘이해’와 잠재 변수

이 CEO는 LLM이 데이터를 ‘패턴’으로만 인식하는 반면, EBM은 데이터를 ‘이해’한다고 설명합니다. LLM은 방대한 데이터를 통해 가장 확률 높은 패턴을 학습하지만, EBM은 데이터가 ‘왜’ 그렇게 보이는지에 대한 근본적인 규칙과 지식을 파악하려 합니다. 이러한 ‘이해’는 ‘잠재 변수(latent variables)‘에 저장됩니다.

잠재 변수: 잠재 변수는 데이터의 규칙에 대한 지식을 담고 있는 일종의 ‘지식 저장소’입니다. 이는 명시적인 규칙의 목록이라기보다는, 에너지 지형의 형태로 지식을 저장합니다. 예를 들어, 댄의 뒤에 있는 소파가 그가 앉는 것을 좋아하기 때문인지, 아니면 배경으로 사용하기 때문인지와 같은 기본적인 세계 규칙을 이해합니다. 마치 우리의 뇌가 주변 세계를 이해하고 환경에 변화가 생겼을 때(예: 새로운 모양의 소파가 생겼을 때) 어떻게 반응해야 할지 추론하는 것과 같습니다. EBM은 이러한 잠재 변수를 통해 새로운 상황에서도 기존 지식을 바탕으로 추론하고 계획할 수 있습니다.

일부에서는 이러한 ‘규칙’에 대한 이야기를 들으면 과거의 ‘상징 AI(symbolic AI)‘를 떠올리며 그 한계점을 우려할 수 있습니다. 그러나 이 CEO는 EBM이 토큰화를 피하고 데이터를 다른 데이터 구조에 직접 매핑함으로써 상징 AI의 문제를 해결한다고 설명합니다. EBM은 토큰 시퀀스가 아닌, 데이터 자체의 구조와 규칙을 직접 다루기 때문에 근본적으로 다릅니다. 이는 데이터 분석과 같이 언어가 도움이 되지 않는 영역에서 특히 강력한 이점을 제공합니다.

LLM의 ‘터널 시야’와 EBM의 ‘조감도’

이 CEO는 LLM과 EBM의 차이를 샌프란시스코 지도를 탐색하는 상황에 비유하여 더욱 명확히 설명합니다.

LLM의 터널 시야: LLM은 마치 터널 시야를 가진 사람처럼 한 번에 한 방향만 선택할 수 있습니다. 예를 들어, 킹 스트리트에서 베이 브리지로 가려고 할 때, LLM은 한 번에 한 단계씩만 움직이며 다른 옵션을 볼 수 없습니다. 때로는 ‘환각’을 일으켜 잘못된 길로 들어서고, 심지어 길에 구멍이 있어도 되돌아갈 수 없기 때문에 그 구멍에 빠져버립니다. 이는 LLM이 순차적(autoregressive)이기 때문입니다. LLM은 작업을 수행하는 동안 방향을 바꿀 능력이 없고, 무엇이 옳고 그른지 알지 못한 채 무작위로 다음 단계를 선택하며 계속 진행합니다. 결국 목적지에 도달하지 못하거나 막대한 컴퓨팅 자원을 낭비하게 됩니다.

EBM의 조감도: 반면 EBM은 ‘조감도(bird’s-eye view)‘를 가지고 있습니다. 모든 가능한 경로를 한눈에 볼 수 있으며, 만약 길에 구멍이 있다면 즉시 다른 경로를 선택할 수 있습니다. 이러한 능력은 EBM이 훨씬 효율적이고 정확하게 문제를 해결할 수 있게 합니다.

최근 LLM을 활용한 코딩(vibe coding)에서 나타나는 문제점도 이와 유사합니다. LLM이 생성한 코드는 개별적으로는 올바르게 보이지만, 전체 시스템을 놓고 보면 일관성이 없고 마치 ‘누더기(patchwork)‘처럼 느껴질 수 있습니다. 이는 LLM이 현재 보고 있는 부분에만 집중하고 전체적인 통합 솔루션을 만들어내는 데 어려움을 겪기 때문입니다. EBM은 이러한 문제에 대해 훨씬 더 통합적이고 검증 가능한 솔루션을 제공할 수 있습니다.

EBM이 제시하는 새로운 AI 활용 사례

로지컬 인텔리전스는 EBM을 활용하여 ‘형식적으로 검증된 코드(formally verified code)‘를 생성하고 코딩 과정을 완전히 자동화하는 것을 목표로 합니다. 이는 개발자가 C++나 파이썬 같은 특정 언어로 코딩하는 대신, 자연어(예: 영어)로 코드를 지시하고 EBM이 이를 검증된 코드로 변환하는 것을 의미합니다.

EBM은 외부 검증기와 결합하여 기존 코드 로직과의 호환성을 수학적으로 증명하고, 문제가 발생하면 자연어로 해결책을 제시할 수 있습니다. 이는 단순한 코드 생성 단계를 넘어, 코드의 ‘명세(specifications)‘를 준수하는지 확인하는 것입니다.

그러나 이 CEO는 AI가 인간의 의도를 완전히 파악할 수는 없다고 강조합니다. “AI는 당신의 뇌를 들여다보고 당신이 무엇을 원하는지 알 수 없습니다.” 예를 들어, 자율주행차 코드를 개발할 때, 코드가 잘 컴파일되는 것 외에 “이 코드가 실제로 보행자를 치지 않을 것인가?” 또는 “이 코드가 샌프란시스코 지도를 제대로 탐색할 것인가?”와 같은 행동 명세(behavior specifications)를 인간이 제공해야 합니다.

이 지점에서 EBM의 가장 큰 장점이 드러납니다. LLM은 환각을 일으켜 예측 불가능하게 행동할 수 있지만, EBM은 ‘제약 조건(constraints)‘을 설정하여 강제적으로 그 규칙을 따르도록 만들 수 있습니다. 즉, 인간이 AI에게 “무엇을 해야 하는지” 명확히 지시하면, EBM은 그 규칙을 항상 준수하도록 설계될 수 있습니다. 이는 자율주행차, 항공기뿐만 아니라, 우울증을 겪는 사람에게 민감하게 반응해야 하는 언어 모델과 같이 예측 불가능한 행동이 치명적인 결과를 초래할 수 있는 모든 영역에서 필수적인 능력입니다.

AI 산업의 미래: LLM과 EBM의 공존

현재 AI 산업은 LLM에 대한 막대한 투자와 함께 성장하고 있습니다. 2021~2023년에 LLM이 보여준 ‘아하(aha)’ 효과는 많은 투자자들이 LLM이 모든 문제를 해결할 것이라는 믿음을 갖게 했습니다. 그러나 이 CEO는 LLM이 컴퓨팅 파워를 늘리고 아키텍처를 조금씩 변경하는 방식으로는 일종의 ‘정체기(plateau)‘에 도달하고 있다고 평가합니다. 이미 수십억 달러가 LLM에 투자되었기 때문에, 투자 커뮤니티가 완전히 새로운 패러다임으로 전환하기는 쉽지 않은 현실입니다.

로지컬 인텔리전스는 이러한 현실을 인정하고, LLM을 완전히 대체하기보다는 보완하는 전략을 취합니다. EBM은 LLM과 호환되며, LLM 스택의 하위 레이어로 통합될 수 있습니다. 예를 들어, 세금 계산이나 공간 추론과 같이 LLM이 잘 해결하지 못하는 특정 작업을 EBM에 위임하여 LLM의 비용을 절감하고 효율성을 높일 수 있습니다.

이 CEO는 “우리의 EBM이 LLM 투자를 여전히 가치 있게 만들 수 있는 레이어가 될 수 있다”고 말합니다. LLM 회사들이 비용 절감을 원한다면, 공간 추론과 같은 특정 작업을 EBM에 아웃소싱할 수 있다는 것입니다. 이는 기존 LLM 생태계를 파괴하는 대신, 그 안에서 새로운 가치를 창출하며 동시에 새로운 형태의 AI를 위한 자체 생태계를 구축하는 현명한 접근 방식입니다.

결론

대규모 언어 모델(LLM)은 인공지능의 가능성을 확장했지만, ‘정확성’, ‘신뢰성’, ‘이해’라는 측면에서 여전히 중요한 과제를 안고 있습니다. 로지컬 인텔리전스의 에너지 기반 모델(EBM)은 토큰 기반의 추측 게임을 넘어, 에너지 최소화 원리와 잠재 변수를 통해 데이터의 본질적인 규칙을 ‘이해’하고 예측 가능한 방식으로 작동합니다.

LLM의 ‘터널 시야’와 달리 EBM의 ‘조감도’는 미션 크리티컬 시스템에서 AI의 안전성과 효율성을 혁신적으로 향상시킬 잠재력을 가집니다. AI 산업이 LLM 중심의 투자에서 벗어나 새로운 아키텍처를 모색하는 데 어려움을 겪고 있지만, EBM은 LLM과 공존하며 그 한계를 보완하는 현실적인 대안을 제시합니다.

결국 AI의 미래는 단일 모델에 의존하기보다는, LLM의 유연성과 EBM의 정확성 및 신뢰성이 시너지를 이루는 하이브리드 접근 방식에 있을 것입니다. 이러한 다각적인 발전은 인류에게 더욱 안전하고 효율적이며, 궁극적으로 신뢰할 수 있는 AI 시대를 열어줄 것입니다.

“Are Human Drivers Finally Obsolete? | Freakonomics Radio” — Freakonomics Radio Network 기반 기사 원본 영상 보기

인간 운전 시대의 종말이 다가오는가? 자율주행차 혁명의 시작과 숨겨진 이야기

PJ Vogt는 최근 예기치 않은 부상으로 인해 일상생활에 제약이 생겼을 때, 샌프란시스코에서 ‘웨이모(Waymo)‘라는 로보택시를 경험했습니다. 운전대 없는 차가 버튼 하나로 도착하고 스스로 움직이는 모습은 마치 미래가 현실이 된 듯한 충격이었습니다. 처음에는 비행기를 타는 듯한 신기함이었지만, 세 번쯤 타니 엘리베이터처럼 익숙해졌습니다. 이 경험은 그에게 “많은 것이 변할 것인데, 왜 사람들이 이에 대해 더 이야기하지 않을까?”라는 의문을 던졌고, 결국 자율주행차에 대한 심층적인 2부작 팟캐스트 시리즈 ‘Search Engine’을 제작하게 만들었습니다.

이 시리즈는 자율주행 기술의 발전 과정과 그로 인한 사회적, 경제적 파장을 심도 있게 다룹니다. 특히 1부에서는 기술 자체와 그 개발자들을, 2부에서는 인간 운전자에게 미칠 영향을 조명합니다. PJ Vogt는 이 여정에서 자율주행차의 꿈을 꾼 ‘세바스찬 스런(Sebastian Thrun)‘과 같이 매력적인 인물들을 만나고, 서로 상충하는 이해관계를 조율해야 하는 복잡한 현실을 마주합니다.

프리코노믹스 라디오(Freakonomics Radio)의 진행자 스티븐 덥너(Stephen Dubner)는 이미 50년 전부터 ‘인간 운전자 반대론자’였다고 밝히며, 자율주행차의 필요성을 강력히 지지합니다. 그의 말처럼, 인간은 운전 능력이 뛰어나지 않고, 감정적이며, 쉽게 산만해지기 때문입니다. 이 기사는 ‘프리코노믹스 라디오’에서 특별 방영된 ‘Search Engine’ 팟캐스트의 첫 번째 에피소드를 바탕으로, 자율주행차 혁명이 어떻게 시작되었고, 우리가 현재 어떤 지점에 와 있는지 그 숨겨진 이야기를 풀어냅니다.

1. 운전자 없는 꿈: 200년 전부터 시작된 상상

200년 전, 즉 1800년대 초반에는 ‘노커-어퍼(knocker-upper)‘와 ‘가스등 점등원(lamplighter)‘이라는 직업이 있었습니다. 노커-어퍼는 긴 막대기로 사람들의 창문을 두드려 아침 일찍 깨워주는 역할을 했고, 가스등 점등원은 해질녘 가스등을 켜고 새벽에 끄는 일을 담당했습니다. 이 직업들은 오늘날 스마트폰 알람과 전기 가로등으로 대체되어 대부분의 사람들에게 낯선 개념이 되었습니다.

하지만 200년 전의 또 다른 직업, 즉 ‘운전자’는 여전히 존재합니다. 당시 운전자는 마차에 앉아 말의 고삐를 잡고 승객을 태워 목적지까지 데려다주는 사람이었습니다. 이 직업은 다른 두 직업과는 달리 현대까지 이어져왔고, 대부분의 사람들에게는 일상적인 행위로 자리 잡았습니다. 이 기사는 바로 ‘운전자’라는 단어가 인간이 아닌 기계를 지칭하게 될 미래에 대한 이야기입니다. 식기세척기(dishwasher), 프린터(printer), 컴퓨터(computer) 같은 단어들이 원래는 사람을 지칭했지만 지금은 기계를 의미하듯이 말입니다.

인간 운전의 위험과 자율주행의 약속

작가 알렉스 데이비스(Alex Davies)는 그의 저서 ‘Driven, The Race to Create the Autonomous Car’에서 인간 운전의 한계에 대해 깊이 고찰합니다. 그는 자신이 좋은 운전자라고 생각하지만, 피로, 집중력 분산, 감정 조절의 어려움 등 명확한 한계를 인지합니다. 실제로 그는 인터뷰 후 몇 달 뒤 교통사고를 겪기도 했습니다.

자율주행차의 핵심 가치는 바로 ‘안전’입니다. 컴퓨터가 운전하는 차는 음주, 피로, 주의 산만, 문자 메시지 전송, 보복 운전 등을 하지 않습니다. 이런 자율주행차는 더 이상 먼 미래가 아닙니다. 웨이모(Waymo) 같은 로보택시(robo-taxi)는 미국 10개 도시에서 수백만 건의 운행을 제공하고 있으며, 중국에서는 두 배 많은 도시에서 더 빠르게 확산되고 있습니다. 샌프란시스코나 오스틴 같은 도시에서는 이미 우버(Uber)만큼 흔해졌습니다.

사실 인간 운전자를 기계로 대체하려는 꿈은 가스등 점등원의 시대만큼이나 오래되었습니다. 말이 끄는 마차에서 자동차로 넘어오면서 잃어버린 ‘지각력(sentience)‘을 다시 차량에 부여하려는 시도였습니다. 말이 절벽으로 달려가지 않듯이, 차도 스스로 판단하기를 바랐던 것입니다.

초기 자동차의 저항과 사회적 적응

초기 자동차가 등장했을 때, 사람들은 증기기관차와 가솔린 차량의 ‘굉음’과 ‘위험성’에 대한 두려움으로 격렬하게 저항했습니다. ‘팀스터즈(Teamsters)’ 같은 마차 관련 직업들이 사라질 위협도 컸습니다. ‘붉은 깃발 법(red flag laws)‘처럼 자동차 앞에 사람이 붉은 깃발을 흔들며 경고해야 하는 규제나, 가축을 만나면 차를 분해해서 덤불 뒤에 숨겨야 한다는 황당한 법안까지 제안될 정도였습니다. 펜실베이니아(Pennsylvania) 주지사는 이 법안에 거부권을 행사했지만, 당시의 반(反)자동차 정서를 엿볼 수 있습니다.

규제 없이 자동차를 받아들인 디트로이트(Detroit) 같은 도시에서는 운전면허, 신호등, 방향지시등도 없이 엄청난 사망률을 기록했습니다. 하지만 수십 년에 걸쳐 법률, 면허 제도, 운전 교육, 도로 설계 개선, 고속도로, 안전벨트, 에어백 등이 도입

“Jensen Huang – Will Nvidia’s moat persist?” — Dwarkesh Patel 기반 기사 원본 영상 보기

엔비디아 젠슨 황의 통찰: AI 시대, ‘전자에서 토큰으로’ 변환하는 예술 그리고 지속 가능한 해자

AI 혁명의 최전선에서 독보적인 위치를 차지하고 있는 엔비디아(NVIDIA)의 젠슨 황(Jensen Huang) 최고경영자(CEO)가 자사의 지속 가능한 경쟁 우위, 즉 ‘해자(moat)‘의 본질에 대해 심도 깊은 통찰을 공유했습니다. 최근 소프트웨어 기업들의 가치 평가가 급락하며 AI가 소프트웨어를 상품화할 것이라는 우려가 커지는 가운데, 황 CEO는 엔비디아가 단순한 하드웨어 제조사를 넘어 ‘전자(electrons)를 토큰(tokens)으로 변환하는 예술’을 통해 AI 시대의 핵심 동력으로 자리매김할 것이라고 강조했습니다.

엔비디아 해자의 본질: ‘전자에서 토큰으로’의 변환 예술

일각에서는 엔비디아가 TSMC에 GDS2 파일을 보내 논리 다이(logic dies)와 스위치를 제조하고, SK 하이닉스(SK Hynix), 마이크론(Micron), 삼성(Samsung)이 만든 고대역폭 메모리(HBM)와 패키징하며, 대만의 ODM(Original Design Manufacturer)에서 랙(rack)을 조립하는 “다른 사람들이 제조하는 소프트웨어”를 만들 뿐이라고 지적합니다. 소프트웨어가 상품화된다면 엔비디아 또한 상품화될 것이라는 주장입니다.

그러나 황 CEO는 이러한 시각이 “순진한 생각”이라고 일축합니다. 그는 궁극적으로 무언가는 “전자(electrons)를 토큰(tokens)으로 변환”해야 한다고 강조합니다. 그리고 “이 전자에서 토큰으로의 변환, 그리고 시간이 지남에 따라 이 토큰의 가치를 높이는 것은 완전히 상품화하기 어렵다”고 말합니다. 하나의 분자를 다른 분자보다, 하나의 토큰을 다른 토큰보다 더 가치 있게 만드는 과정에는 엄청난 예술성, 공학, 과학, 그리고 발명이 수반됩니다. 황 CEO는 이 과정이 “아직 깊이 이해되지 않았고, 그 여정은 아직 끝나지 않았다”며 엔비디아가 이 핵심적인 변환 작업을 주도하고 있다고 설명합니다.

엔비디아의 역할은 “가능한 한 많이 필요한 것을 하고, 가능한 한 적게 하는 것”이라는 철학에 기반합니다. 황 CEO는 “우리의 임무는 놀라운 역량으로 그 변환이 이루어질 수 있도록 필요한 만큼의 일을 하고, 가능한 한 최소한의 일을 하는 것”이라고 말합니다. 이는 엔비디아가 직접 할 필요가 없는 부분은 파트너들과 협력하여 거대한 생태계의 일부로 만든다는 의미입니다. 현재 엔비디아는 공급망의 상류(upstream)와 하류(downstream) 모두에서 가장 큰 파트너 생태계를 보유하고 있으며, AI의 다섯 개 계층 전반에 걸쳐 생태계를 구축하고 있습니다.

AI 시대 소프트웨어의 미래와 엔비디아의 역할

황 CEO는 AI로 인해 대부분의 소프트웨어 기업들이 “도구 제작자(tool makers)“가 될 것이며, 이들의 역할이 더욱 중요해질 것이라고 예측합니다. 엑셀(Excel), 파워포인트(PowerPoint), 케이던스(Cadence), 시놉시스(Synopsys) 등은 모두 도구이며, AI 에이전트(agents)의 수가 기하급수적으로 증가함에 따라 이러한 도구 사용자 또한 폭발적으로 늘어날 것이라는 주장입니다.

현재는 엔지니어의 수에 의해 제한되지만, 미래에는 AI 에이전트가 엔지니어를 지원하며 전례 없는 방식으로 설계 공간을 탐색하게 될 것입니다. 이는 기존 도구들의 사용을 더욱 촉진하고 소프트웨어 기업들의 성장을 이끌 것이라고 황 CEO는 전망합니다. 그는 “아직 에이전트가 도구를 사용하는 데 충분히 능숙하지 않기 때문에 이러한 변화가 일어나지 않았을 뿐”이라며, 앞으로는 기업들이 직접 에이전트를 구축하거나 에이전트가 도구 사용에 능숙해지는 두 가지 방식이 결합될 것이라고 내다봤습니다.

공급망 확보와 선제적 병목 관리

엔비디아의 해자에 대한 또 다른 해석은 막대한 구매 약정(purchase commitments)을 통해 희소한 부품들을 선점하고 있다는 것입니다. 세미애널리시스(SemiAnalysis)는 엔비디아가 파운드리, 메모리, 패키징 분야에서 거의 1천억 달러에 달하는 구매 약정을 체결했으며, 향후 2천5백억 달러까지 늘어날 수 있다고 보도했습니다. 이에 대해 황 CEO는 “다른 사람이 하기 어려운 일 중 하나”라며 이 역시 엔비디아의 강점 중 하나임을 인정합니다.

그러나 단순히 돈으로만 가능한 것은 아닙니다. 엔비디아는 공급망 상류의 CEO들을 직접 만나 “이 산업이 얼마나 커질지, 왜 그렇게 될지, 그리고 내가 무엇을 보고 있는지”를 설명하며 영감을 주고 설득합니다. 이러한 과정 덕분에 공급업체들은 엔비디아를 위해 막대한 투자를 기꺼이 감행합니다. 그 이유는 엔비디아가 이들의 공급을 구매하고 자사의 하류 공급망(downstream supply chain)을 통해 판매할 능력이 있음을 알기 때문입니다. GTC(GPU Technology Conference)와 같은 행사를 통해 엔비디아는 AI 생태계 전체를 한자리에 모아 상류와 하류 파트너들이 서로 만나고 AI의 발전을 직접 목격하게 함으로써 공급망을 효과적으로 연결하고 강화합니다.

황 CEO는 병목 현상(bottlenecks)이 발생하는 즉시 해결하기 위해 선제적으로 노력한다고 설명합니다. 일례로, 한때 심각한 병목이었던 CoWoS(Chip-on-Wafer-on-Substrate) 패키징 기술은 엔비디아의 2년간의 집중적인 투자와 노력으로 공급량이 크게 늘어 이제는 문제가 되지 않는다고 말합니다. TSMC는 CoWoS 공급이 논리 다이 및 메모리 수요와 보조를 맞춰야 한다는 것을 인식하고 있으며, 미래 패키징 기술도 함께 확장하고 있습니다.

그러나 장기적인 관점에서 황 CEO가 우려하는 진정한 병목은 반도체 제조 역량 자체가 아니라고 말합니다. EUV(Extreme Ultraviolet) 노광 장비나 팹(fab) 증설 등은 2~3년 내에 해결 가능한 문제이며, 충분한 수요 신호만 있다면 빠르게 확장될 수 있다는 것입니다. 오히려 더 큰 문제는 “배관공(plumbers)과 전기 기술자(electricians)” 같은 숙련공의 부족, 그리고 에너지 정책이라고 지적합니다. 새로운 산업을 만들고, 칩 제조, 컴퓨터 제조, AI 팩토리 등을 재산업화(reindustrialize)하려면 막대한 에너지가 필요하며, 이러한 에너지 정책은 훨씬 더 오랜 시간이 걸리는 문제입니다.

경쟁 우위: TPU를 넘어선 ‘가속 컴퓨팅’

구글(Google)의 TPU(Tensor Processing Unit)가 클로드(Claude)와 제미니(Gemini) 같은 주요 AI 모델 훈련에 사용된다는 점에 대한 질문에 황 CEO는 엔비디아가 “텐서 처리 장치가 아닌 가속 컴퓨팅(accelerated computing)“을 구축했다고 강조합니다. 가속 컴퓨팅은 분자 역학, 양자 색역학, 데이터 처리, 유체 역학, 입자 물리학 등 훨씬 더 광범위한 분야에 사용되며, AI는 그 중 한 분야일 뿐입니다. 엔비디아는 범용 컴퓨팅에서 가속 컴퓨팅으로의 전환을 통해 컴퓨팅 방식을 재창조했으며, 그 시장 도달 범위는 어떤 TPU나 ASIC(Application-Specific Integrated Circuit)도 가질 수 없는 수준이라고 말합니다.

엔비디아의 핵심 강점은 ‘일반적인 프로그래밍 가능성(general programmability)‘에 있습니다. 새로운 어텐션 메커니즘(attention mechanism)을 개발하거나, 확산(diffusion)과 자기회귀(autoregressive) 기술을 융합하는 모델을 만들 때, 유연하게 프로그래밍 가능한 아키텍처가 필수적입니다. 무어의 법칙(Moore’s Law)이 연간 25% 정도의 성능 향상을 제공하는 반면, 엔비디아가 하퍼(Hopper)에서 블랙웰(Blackwell)로 50배의 에너지 효율 향상을 이룬 비결은 새로운 모델과 알고리즘의 발명에 있습니다. MoE(Mixture of Experts)와 같이 분산된 컴퓨팅 시스템에 최적화된 새로운 모델을 개발하고, CUDA(Compute Unified Device Architecture)를 통해 새로운 커널(kernels)을 구현하는 것이 가능했기 때문입니다.

CUDA는 엔비디아가 프로세서, 시스템, 패브릭(fabric), 라이브러리, 알고리즘 전반에 걸쳐 변화를 일으킬 수 있는 “극단적 공동 설계(extreme co-design)“를 가능하게 합니다. 이러한 유연성은 AI 알고리즘의 빠른 발전을 촉진하며, 엔비디아가 모든 종류의 응용 프로그램을 가속화할 수 있는 유일한 기업으로 자리매김하게 했습니다.

황 CEO는 CUDA 생태계의 세 가지 핵심 가치를 강조합니다. 첫째, 풍부함과 프로그래밍 용이성: 모든 프레임워크와 알고리즘을 지원하며, 개발자들이 신뢰할 수 있는 기반 위에서 혁신적인 작업을 수행할 수 있도록 합니다. 둘째, 방대한 설치 기반(install base): 수억 개의 GPU가 전 세계에 보급되어 있어, 개발된 소프트웨어나 모델이 어디에서나 유용하게 사용될 수 있습니다. 셋째, 클라우드 독립성(versatility): 구글, 아마존, 애저, OCI 등 모든 클라우드에서 엔비디아 시스템을 운영할 수 있으며, 온프레미스(on-premise) 환경도 지원하여 고객에게 최고의 유연성을 제공합니다.

초거대 AI 기업과의 관계와 엔비디아의 전략

엔비디아 매출의 60%가 상위 5개 하이퍼스케일러(hyperscalers)에서 발생한다는 지적에 대해 황 CEO는 이들 기업도 엔비디아의 전문성이 필요하다고 설명합니다. 엔비디아의 GPU 아키텍처는 마치 “F1 레이서”와 같아서, 최고의 성능을 끌어내기 위해서는 상당한 전문 지식이 필요하며, 엔비디아는 AI 연구소 파트너들과 긴밀히 협력하여 스택(stack)을 최적화하고 2배, 3배, 심지어 50%의 성능 향상을 이끌어냅니다. 이는 곧 매출 증가로 직결되는 막대한 가치를 제공합니다.

황 CEO는 엔비디아가 “세계 최고의 성능 대비 총소유비용(Performance per TCO)“과 “와트당 토큰(Tokens per Watt)“을 제공한다고 강조합니다. 데이터센터를 1기가와트(Gigawatt) 규모로 구축할 때, 엔비디아 아키텍처는 동일한 전력으로 최대의 토큰 수와 매출을 창출할 수 있다는 것입니다.

과거 앤트로픽(Anthropic)이 구글이나 AWS(Amazon Web Services)의 투자를 받아 TPU나 트레이니움(Trainium)을 사용하게 된 배경에 대해 황 CEO는 “당시 엔비디아가 공급업체로서 수십억 달러 규모의 투자를 할 여력이 없었으며, 벤처캐피털(VC)이 그만한 투자를 할 것이라고 생각했다”고 인정합니다. 그는 “그것이 나의 실수였다”며, “다시는 같은 실수를 반복하지 않을 것”이라고 단언했습니다. 현재 엔비디아는 오픈AI(OpenAI), 앤트로픽 등 유망 AI 랩에 적극적으로 투자하고 있으며, 이는 이들의 성장을 돕고 AI 산업 발전에 기여하기 위함이라고 설명합니다.

엔비디아가 직접 클라우드 사업자가 되지 않는 이유에 대해서는 다시 한번 “필요한 만큼, 최소한으로”라는 철학을 강조합니다. 컴퓨팅 플랫폼 구축과 CUDA 생태계 조성은 엔비디아가 아니면 아무도 하지 않았을 일이지만, 클라우드 사업은 엔비디아가 하지 않아도 누군가는 할 것이라는 판단입니다. 대신 엔비디아는 코어위브(CoreWeave), 엔스케일(Nscale), 네비우스(Nebius)와 같은 신생 AI 클라우드(neoclouds)에 투자하고 지원하여 생태계 전체가 번성하도록 돕는 데 집중합니다. 또한 “승자를 고르지 않는다(don’t pick winners)“는 원칙에 따라 모든 유망 AI 기업에 투자하고 지원함으로써 시장의 다양성을 존중하고 혁신을 장려합니다.

GPU 할당과 시장 전략

GPU 부족 상황에서 엔비디아가 ‘최고가 입찰자(highest bidder)‘가 아닌 신생 클라우드에 GPU를 우선 배정한다는 소문에 대해 황 CEO는 이를 “전혀 사실이 아니다”라고 부인합니다. GPU 할당의 원칙은 명확합니다. 첫째, 수요 예측(forecasting)을 통해 파트너들과 공급망을 조율합니다. 둘째, 구매 주문서(purchase order)를 제출해야 합니다. 셋째, 기본적으로 “선착순(first in, first out)” 원칙을 따릅니다. 다만, 데이터센터 준비 상태 등 고객사의 준비 상황에 따라 공장 처리량(throughput)을 극대화하기 위한 일부 조정은 있을 수 있다고 설명합니다.

황 CEO는 “우리는 결코 최고가 입찰 방식을 사용하지 않는다”고 강조하며, 이는 “나쁜 사업 관행”이라고 일축합니다. 대신 엔비디아는 가격을 설정하고, 고객은 그 가격에 구매 여부를 결정하는 방식으로 사업을 운영합니다.

결론

젠슨 황 CEO의 통찰은 엔비디아의 해자가 단순한 기술적 우위나 시장 점유율을 넘어선 복합적인 요소들로 이루어져 있음을 보여줍니다. ‘전자에서 토큰으로’의 변환이라는 AI 시대의 근본적인 과제를 해결하는 데 집중하는 기술적 리더십, 광범위하고 유연한 CUDA 생태계, 공급망 전반에 대한 전략적 영향력, 그리고 ‘필요한 만큼, 최소한으로’라는 철학 아래 파트너십을 통해 AI 산업의 혁신을 촉진하는 비전이 바로 그것입니다. 이러한 다층적인 해자는 엔비디아가 AI 시대에 지속적으로 성장하고 그 영향력을 확대할 수 있는 핵심 동력이 될 것입니다.

“Trump’s Risky Strategy to Blockade Iran’s Blockade” — New York Times Podcasts 기반 기사 원본 영상 보기

트럼프의 위험한 셈법: 호르무즈 해협 봉쇄, 이란을 굴복시킬까?

뉴욕타임즈의 보도에 따르면, 미국은 현재 호르무즈 해협(Strait of Hormuz)에서 이란에 대한 고도의 위험을 수반하는 ‘봉쇄 치킨 게임’을 벌이고 있습니다. 미국은 이 전략을 통해 이란과의 전쟁을 미국이 원하는 방식으로 종식시키고, 이란 경제를 마비시켜 협상 테이블로 끌어내려는 의도를 가지고 있습니다. 과연 이 봉쇄 전략은 성공할 수 있을까요? 그리고 이 전략이 가져올 위험과 국제 사회의 미래는 어떠할까요?

이번 라운드테이블 토론에는 백악관 특파원 데이비드 상거(David Sanger), 에너지 전문 기자 레베카 엘리엇(Rebecca Elliot), 군사 전문 기자 에릭 슈미트(Eric Schmidt)가 참여하여 트럼프 행정부의 이란 봉쇄 전략의 배경, 위험, 그리고 초기 성과에 대해 심층적으로 분석했습니다.

배경: 봉쇄의 시작과 미국의 목표

이번 봉쇄 아이디어는 이란이 미국의 부통령 JD 밴스(JD Vance)를 파키스탄 협상에서 아무런 성과 없이 돌려보낸 직후 불거졌습니다. 휴전에도 불구하고 이란이 세계 석유 운송의 핵심 통로인 호르무즈 해협의 통제권을 놓지 않고 오히려 통행료를 부과하기 시작하자, 트럼프 행정부는 혼란스러운 상황에 직면했습니다.

1979년 이슬람 혁명 정부가 수립된 이래 47년간 이란은 호르무즈 해협을 통해 모든 선박의 자유로운 통행을 허용해왔습니다. 그러나 최근 이란은 갑자기 해협의 통행을 막고 통행료를 부과하기 시작했습니다. 마치 고속도로 톨게이트처럼, 선박 한 척당 2백만 달러에 달하는 통행료를 요구한 것입니다. 미국으로서는 이러한 상황을 용납할 수 없었고, 미 해군이 해협의 통제권을 이란으로부터 되찾아야 할 필요성을 느꼈습니다.

군사적으로 ‘해상 봉쇄(naval blockade)‘는 명백한 적대 행위이자 전쟁 행위로 간주됩니다. 이는 한 국가가 군사력을 동원하여 다른 국가의 선박 통행을 위협하거나 실제 강제로 선박을 나포하는 것을 의미합니다. 현재 미국은 항공모함부터 구축함, 해병대 수송선에 이르기까지 10,000명 이상의 해군 병력과 12척 이상의 전함을 호르무즈 해협 외곽에 배치하여 이란 항구로 향하는 선박들을 감시하고 있습니다. 트럼프 대통령은 이를 ‘봉쇄’라고 부르지만, 실제로는 ‘검역(quarantine)‘에 가까운 형태로 운영되고 있습니다. 드론과 공개 정보를 활용해 의심스러운 선박을 식별하고, 무전을 통해 정지 명령을 내리거나 필요시 해병대나 네이비실(Navy SEALs)을 투입해 선박에 승선하여 화물을 검사할 수 있습니다.

궁극적인 목표는 이란 경제, 특히 석유 수출을 질식시키는 것입니다. 이란은 오랫동안 호르무즈 해협을 통해 석유를 수출하며 경제를 유지해왔고, 특히 이란 혁명수비대(IRGC)는 석유 수출 수익의 거의 전부를 전쟁 자금으로 활용하고 있었습니다. 따라서 미국의 봉쇄는 이란의 주요 수입원을 차단하여 이란을 협상 테이블로 복귀시키고, 핵 비축량 포기 및 우라늄 농축 중단과 같은 미국의 요구를 관철시키려는 이중적인 목적을 가지고 있습니다.

트럼프 행정부의 위험한 도박: 잠재적 위협들

이러한 해상 봉쇄는 트럼프 행정부가 감수해야 할 막대한 위험을 내포하고 있습니다.

1. 이란의 보복: 가장 큰 위험은 이란 혁명수비대(IRGC)가 봉쇄에 맹렬히 반격할 수 있다는 점입니다. 이란은 이미 미 해군 함정을 공격하겠다고 위협했으며, 이는 해협 안팎에서 대규모 군사적 충돌로 이어질 수 있습니다.

2. 중국의 반발: 이란이 수출하는 석유의 약 90%는 중국으로 향하며, 대부분 중국 선박을 통해 운송됩니다. 트럼프 대통령은 4주 안에 베이징을 방문하여 미-중 관계 개선과 무역 협상을 논의할 예정이었으나, 이란산 석유를 싣고 가던 중국 선박이 미 해군에 의해 회항당한다면, 이는 미-중 관계에 심각한 악영향을 미칠 수 있습니다. 초강대국 적대국을 자극하는 매우 효과적인 방법이기 때문입니다. 게다가 중국이 이란에 무기를 지원하는 것을 고려하고 있다는 보도도 나와 긴장은 더욱 고조되고 있습니다.

3. 글로벌 에너지 시스템의 혼란: 이란이 페르시아만 전역의 에너지 인프라에 대한 공격을 재개한다면, 이는 글로벌 에너지 시스템과 세계 경제에 장기적인 위험을 초래합니다. 정유 시설과 생산 시설이 파괴되면 에너지 공급이 장기간 중단될 수 있습니다. 국제에너지기구(IEA)는 이미 이 지역의 80개 이상의 에너지 시설이 피해를 입었으며, 전쟁 이전 수준으로 생산량을 회복하는 데 최대 2년이 걸릴 수 있다고 추정하고 있습니다.

봉쇄의 초기 성과와 미완의 과제

전략적 이론에 불과했던 봉쇄는 이제 현실이 되었습니다. 초기 48시간 동안의 상황을 살펴보면, 미국 중앙사령부(US Central Command)는 봉쇄 개시 24시간 동안 단 한 건의 봉쇄 위반이나 저지도 없었으며, 이란 항구를 떠났던 6척의 선박이 미 해군의 연락을 받고 회항했다고 발표했습니다. 이는 이란의 석유 수출을 막는 데는 성공하고 있는 것으로 보입니다.

하지만 이는 ‘절반의 성공’에 불과합니다. 미국은 이란의 석유 수출을 막았지만, 아랍에미리트(UAE)나 다른 아랍 국가들의 선박들이 이란의 위협을 뚫고 안전하게 해협을 통과할 수 있도록 보장하는 것이 남아있습니다. 현재의 상황은 미국이 이란의 ‘봉쇄’에 대해 ‘봉쇄’를 가하는, 매우 복잡한 양상으로 전개되고 있습니다. 전 세계 경제는 이란산 석유가 완전히 차단될 것인지, 아니면 다른 국가의 선박들이 미 해군의 보호 아래 해협을 통과할 수 있게 될 것인지에 촉각을 곤두세우고 있습니다.

국제 사회의 반응과 호르무즈 해협의 미래

봉쇄가 시작된 초기 24시간 동안 약 20척의 상선이 호르무즈 해협을 통과했습니다. 이는 유조선, 화물선 등이 포함된 것으로 추정되지만, 이 숫자가 장기적인 추세의 시작인지, 아니면 일시적인 현상인지는 아직 불확실합니다.

선사들과 선장들의 불안감은 매우 높습니다. 전쟁 이전에는 자유로운 통행과 적은 위험이 보장되었지만, 이제는 높은 보험료를 지불해야 하며 공격 위험에 노출되어 있습니다. 많은 전문가들은 호르무즈 해협이 전쟁 이전의 자유로운 상태로 돌아가기는 어려울 것이라고 전망합니다. 이란이 해협 통제라는 ‘초강대국적 힘’을 발견했기 때문입니다. 소수의 기뢰를 부설하거나 어깨 발사 미사일로 선박을 위협하는 것만으로도 페르시아만 전체의 운송을 마비시킬 수 있다는 사실을 깨달은 것입니다.

호르무즈 해협의 장기적인 미래에 대한 몇 가지 제안이 논의되고 있습니다. 트럼프 대통령은 한때 자신과 이란 최고지도자가 해협을 공동으로 운영하는 방안을 언급하기도 했습니다. 보다 현실적인 제안으로는 국제 컨소시엄(international consortium)을 구성하여 해협의 통행을 감시하고 통행료를 징수하며, 이를 이란, 오만, 미국, 중국, 인도, 유럽 등 해협 통행에 의존하는 국가들이 공유하는 방안이 있습니다. 그러나 트럼프 행정부가 국제 협력에 큰 관심을 보이지 않아 이러한 구상이 실현될지는 미지수입니다. 데이비드 상거와 레베카 엘리엇은 호르무즈 해협이 더 이상 대서양이나 태평양처럼 방해받지 않는 자유로운 국제 수로가 되기는 어려울 것이라고 입을 모았습니다.

에너지 시장의 변화와 ‘고통 감내’의 게임

호르무즈 해협의 상황 변화는 전 세계 에너지 시장에 광범위한 영향을 미칠 것입니다. 전문가들은 세 가지 주요 변화를 예상합니다.

1. 대안적 운송 경로 개발: 걸프만 국가들이 호르무즈 해협을 우회하여 세계 시장으로 석유를 운송할 수 있는 파이프라인과 같은 대안적 경로를 더 많이 건설할 가능성이 있습니다. 사우디아라비아와 UAE는 이미 이러한 옵션을 일부 보유하고 있습니다.
2. 다른 지역 석유 수요 증가: 호르무즈 해협 통과 위험이 없는 다른 지역의 석유에 대한 수요가 증가할 수 있습니다.
3. 대체 에너지 부상: 석유 가격이 비싸지면 원자력, 태양광, 배터리와 같은 대체 에너지원의 매력이 커지고, 이에 대한 투자가 증가할 것입니다.

결국 이 전쟁과 봉쇄는 장기적으로 전 세계 에너지 인프라의 근본적인 변화를 초래할 수 있습니다. 단기적으로는 미국과 이란 중 어느 쪽이 이 봉쇄로 인한 고통을 먼저 견디지 못할 것인지에 대한 치열한 ‘고통 감내’ 게임이 될 것입니다.

이란은 유가 상승이 미국 국내 정치에 미칠 영향(특히 중간선거) 때문에 트럼프 대통령이 결국 물러설 것이라고 베팅하고 있습니다. 실제로 이란 지도부는 소셜 미디어를 통해 트럼프에게 휘발유 가격에 대해 조롱하기도 했습니다. 반면 미국은 이란의 주요 수입원을 차단하여 이란 혁명수비대(IRGC)의 자금줄을 끊고, 이란이 경제적으로 무릎 꿇고 협상 테이블로 돌아올 것이라고 믿고 있습니다.

봉쇄의 지속 가능성과 전쟁 재발 가능성

미 국방부는 이 봉쇄 작전을 대통령이 원하는 만큼 지속할 수 있다고 밝혔습니다. 그러나 이는 다른 지역에서의 군사적 임무 수행에 막대한 비용을 치러야 할 것입니다. 인도-태평양 지역에서 중국에 대응하고 북한 문제에 대처하기 위해 필요한 함정과 탄약이 전용되고 있으며, 유럽 사령부에서 우크라이나로 보낼 수 있었던 요격 미사일과 폭탄도 차출되고 있습니다. 현재 봉쇄 작전에는 약 10,000명의 미 해군, 해병대 및 기타 병력이 투입되어 있으며, 만약 이 지역에 계속 집중해야 한다면 전체 작전 규모는 50,000명 이상으로 늘어날 수 있습니다.

그렇다면 전면전이 재개될 가능성은 얼마나 될까요? 데이비드 상거는 트럼프 대통령이 과거 38일간 진행했던 것과 같은 군사 작전을 다시 수행하기는 매우 어려울 것이라고 전망합니다. 그의 지지층이 분열되었고, 의회는 전쟁 선언 없이 군사 작전을 수행하는 것에 대해 불만을 표출했으며, 동맹국들도 미국의 지원에 나서지 않았기 때문입니다.

이란 또한 전쟁 종식을 원하고 있습니다. 싸움이 시작되기 전부터 취약했던 이란 경제에 전쟁이 미치는 영향은 엄청났을 것입니다. 따라서 이제 문제는 전쟁이 끝날지 여부가 아니라, 누구의 조건으로 전쟁이 끝날 것인가에 달려있습니다.

현재의 봉쇄는 일시적인 휴전 상태를 유지하고 있지만, 호르무즈 해협의 미래와 국제 에너지 시장의 판도는 예측 불가능한 변화의 길목에 서 있습니다. 한편, 프랑스와 영국은 미국을 배제한 채 독자적으로 호르무즈 해협 재개방 계획을 수립하고 있다고 밝혀, 국제 사회의 다층적인 움직임을 예고하고 있습니다.