La rapida crescita dell'intelligenza artificiale sta creando una domanda senza precedenti di potenza di calcolo, larghezza di banda di memoria, velocità di interconnessione, gestione termica e tecnologie avanzate di imballaggio.Mentre lo sviluppo dell'IA è spesso associato alle GPU e ai grandi modelli linguistici, i materiali sottostanti e le tecnologie dei semiconduttori stanno diventando altrettanto importanti.

Con l'avvicinarsi dei limiti fisici della scalabilità dei transistor tradizionali, l'industria dei semiconduttori si affida sempre più a materiali avanzati, integrazione fotonica, imballaggi eterogenei,e nuove architetture di interconnessione per continuare a migliorare le prestazioni.

Tra le numerose tecnologie emergenti in fase di sviluppo, cinque aree si distinguono per il loro potenziale impatto sulle future infrastrutture dell'IA:

1. Substrati di carburo di silicio (SiC) per imballaggi avanzati di IA
2. Niobato di litio a film sottile (TFLN/LNOI) e Lithium Tantalate Photonics
3. Architetture di interconnessione ottica basate su microLED
4. Wafer di zaffiro in imballaggi avanzati ed elettronica di potenza
5. Tecnologia di imballaggio CoWoP (Chip-on-Wafer-on-PCB)

1. Sottostati di carburo di silicio (SiC) per imballaggi AI di prossima generazione

Perché la gestione termica è importante

I moderni acceleratori di intelligenza artificiale possono consumare da centinaia a migliaia di watt all'interno di un singolo pacchetto.La gestione termica sta emergendo come uno dei colli di bottiglia più critici nelle prestazioni del sistema.

I materiali di imballaggio tradizionali in silicio sono sempre più sfidati da:

• Alta densità di potenza
• Punti caldi localizzati
• Requisiti di integrità del segnale
• Lo sforzo meccanico in imballaggi di grande superficie

Vantaggi del carburo di silicio

Il carburo di silicio monocristallino (SiC) offre diverse proprietà interessanti:

La conduttività termica significativamente più elevata del SiC consente di diffondere il calore in modo più efficiente, riducendo le temperature di giunzione e potenzialmente migliorando l'affidabilità del pacchetto.

Potenziale ruolo nell'imballaggio dell'IA

Le discussioni del settore suggeriscono che le future piattaforme di calcolo ad alte prestazioni potrebbero esplorare interpositori, vettori o tecnologie di substrato basati su SiC per affrontare i carichi termici crescenti.

Le applicazioni potenziali includono:

• Imballaggio avanzato in stile CoWoS
• Piattaforme di integrazione chiplet
• Portatori di interconnessione ad alta densità
• Strutture di gestione termica

Man mano che i sistemi di IA continuano a scalare verso l'exa-scala e l'zetta-scala, materiali termici avanzati come il SiC potrebbero diventare strategicamente importanti.

2Niobato di litio e tantlato di litio a pellicola sottile per interconnessioni ottiche AI

Il crescente bisogno di comunicazioni ottiche

Il collo di bottiglia delle prestazioni nei cluster di IA si sta spostando sempre più dal calcolo al movimento dei dati.

I moderni sistemi di formazione dell'IA richiedono:

• Comunicazione GPU-GPU massiccia
• Rete su scala rack
• Tessuti ottici per data center
• Interconnessioni a bassa latenza

Le interconnessioni elettriche devono affrontare crescenti limitazioni di larghezza di banda, consumo di energia e perdita di segnale.

Perché la TFLN è importante

Il niobato di litio a pellicola sottile (TFLN), noto anche come niobato di litio su isolante (LNOI), sta emergendo come una delle piattaforme fotoniche più promettenti.

I principali vantaggi sono:

• Effetto elettro-ottico estremamente forte
• Larghezza di banda di modulazione elevata
• Basse perdite di inserimento
• Basso consumo energetico
• Ottima stabilità a temperatura

Ruolo del tantlato di litio

Il tantlato di litio (LiTaO3) integra il niobato di litio in applicazioni quali:

• filtri RF
• Dispositivi per onde acustiche
• Integrazione fotonica
• Trattamento del segnale ottico

Applicazioni future dell'IA

I modulatori TFLN sono sempre più considerati per:

• Moduli ottici 800G
• 1.6T moduli ottici
• Optica in copacchetto (CPO)
• Tessuti per artificiali ottici

Molti ricercatori ritengono che l'integrazione ibrida combinando:

• Silicon Photonics (SiPh)
• Niobato di litio a film sottile
• Imballaggio avanzato

potrebbe diventare una delle architetture dominanti per i sistemi di comunicazione AI di prossima generazione.

3Interconnessioni ottiche basate su microLED

Al di là della tecnologia di visualizzazione

La tecnologia MicroLED è comunemente associata ai display di nuova generazione.

A differenza dei sistemi tradizionali basati su laser, le matrici MicroLED possono funzionare come motori di comunicazione ottica altamente paralleli.

Architettura ottica parallela

Il concetto è semplice:

Invece di un canale ultra veloce che trasporta tutto il traffico, centinaia di canali a bassa velocità operano simultaneamente.

Esempio:

• Canale singolo: 2 Gbps
• 400 canali: 800 Gbps
• 800 canali: 1,6 Tbps

Questo approccio massicciamente parallelo offre diversi vantaggi.

Potenziali benefici

Consumo di energia inferiore

I microLED possono funzionare a:

• Voltaggi inferiori
• Carichi termici inferiori
• Riduzione dei requisiti di potenza ottica

Migliorato affidabilità

Le grandi matrici consentono la ridondanza.

Se alcuni emittenti non funzionano:

• La comunicazione può continuare.
• Migliora l'affidabilità del sistema

Interconnessioni IA a corto raggio

Le applicazioni potenziali includono:

• Comunicazione su scaffalatura
• Sfondi ottici
• Interconnessioni del server AI
• Sistemi di commutazione ottica

Sebbene ancora nelle prime fasi di commercializzazione, la comunicazione ottica MicroLED rappresenta un'interessante alternativa alle soluzioni convenzionali basate sul laser.

4.Wafer di zaffironell'era post-Moore

Innovazione dei materiali oltre la scalabilità dei transistor

Con il rallentamento della legge di Moore, l'innovazione dei semiconduttori dipende sempre più da:

• Materiali avanzati
• Nuove architetture di imballaggio
• Integrazione eterogenea
• Ingegneria termica

Lo zaffiro (α-Al2O3) attira un rinnovato interesse per la sua combinazione unica di proprietà.

Caratteristiche principali del materiale

Applicazioni nell'imballaggio avanzato

I ricercatori stanno studiando lo zaffiro per:

• Carrier di incollaggio temporaneo
• supporto per wafer ultra-sottili
• Strutture di interpositori
• Piattaforme di imballaggio ottico

La sua elevata resistenza meccanica può contribuire a ridurre la deformazione del wafer e i danni alla manipolazione durante i processi di imballaggio avanzati.

Ruolo nell'elettronica di potenza

Lo zaffiro rimane anche importante in:

• Fabbricazione di LED
• Dispositivi RF
• Sistemi ottici
• Ecosistemi di semiconduttori a banda larga

Con l'aumentare della complessità degli imballaggi, lo zaffiro potrebbe trovare nuove opportunità al di là del suo tradizionale mercato dei substrati a LED.

5. CoWoP Packaging: una potenziale evoluzione al di là dei convenzionali CoWoS

Cos' è CoWoP?

CoWoP sta per:

Fabbricazione a partire da materiali di cui all'allegato 1

Il concetto mira a semplificare le strutture di imballaggio avanzate eliminando lo strato di substrato ABF tradizionale.

Invece, l'interposatore di silicio è collegato direttamente alla scheda di circuito stampato (PCB).

Potenziali vantaggi

Diminuzione della lunghezza del percorso del segnale

I percorsi elettrici più brevi possono fornire:

• Minore latenza
• Diminuzione della perdita di segnale
• Ampliamento della larghezza di banda

Miglioramento della flessibilità termica

La rimozione dello strato di substrato può creare ulteriori opzioni per la gestione termica.

Riduzione dei costi

I costi di imballaggio avanzato sono diventati una delle principali preoccupazioni dell'industria dei semiconduttori.

Una struttura di pacchetto semplificata può offrire:

• Meno fasi di processo
• Bassi costi dei materiali
• Migliore scalabilità

Sfide tecniche

Nonostante la sua promessa, il CoWoP deve affrontare ostacoli significativi.

Requisiti di precisione del PCB

I futuri pacchetti di IA potrebbero richiedere:

• larghezza di linea inferiore a 10 μm
• Routing ad altissima densità
• Capacità produttive avanzate

Rendimento e affidabilità

Tra le sfide ci sono:

• Pagina di copertura per pacchetti di grandi dimensioni
• Stressi meccanici
• Precisione di montaggio

Condizioni materiali

Una delle principali tecnologie abilitanti è il foglio di rame ultra-sottile, essenziale per raggiungere la densità di routing requisito dai sistemi di IA di prossima generazione.

Conclusioni

Il futuro dell'hardware dell'IA non sarà determinato esclusivamente da GPU più grandi o da modelli software più avanzati.e innovazioni di imballaggio che consentono a questi sistemi di scalare in modo efficiente.

Tra le tecnologie che attirano sempre più l'attenzione dell'industria figurano:

• Carburo di silicio per la gestione termica e l'imballaggio avanzato
• Niobato di litio a pellicola sottile per interconnessioni ottiche
• Comunicazione ottica basata su microLED
• Substrati di zaffiro per integrazione eterogenea
• Architetture di imballaggio CoWoP

Mentre ogni tecnologia è in una diversa fase di maturità, tutte rappresentano importanti direzioni nell'evoluzione dell'infrastruttura dell'IA.Le scoperte nella scienza dei materiali e nell'ingegneria degli imballaggi possono rivelarsi altrettanto trasformative dei progressi nell'architettura informatica stessa.