Cinque metodi di apprendimento automatico che i trader Cripto dovrebbero conoscere

In un recentearticolo, ho discusso la rilevanza delle tecniche di apprendimento automatico che alimentano il famoso GPT-3 di OpenAI potrebbero avere per il mercato delle Cripto . GPT-3, che può rispondere a domande, eseguire analisi linguistiche e generare testo, potrebbe essere il risultato più famoso degli ultimi anni nello spazio del deep learning. Ma, in nessun modo, è il più applicabile allo spazio Cripto . In questo articolo, vorrei discutere alcune nuove aree del deep learning che possono avere un impatto NEAR immediato nei modelli Quant applicati alle Cripto.

Jesus Rodriguez è il CEO di IntoTheBlock, una piattaforma di market intelligence per Cripto . Ha ricoperto ruoli dirigenziali presso importanti aziende Tecnologie e hedge fund. È un investitore attivo, relatore, autore e docente ospite presso la Columbia University di New York.

Modelli come GPT-3 o BERT di Google sono il risultato di una svolta epocale nel deep learning, nota come modelli di trasformazione e pre-addestramento linguistico. Queste tecniche, presumibilmente, rappresentano la pietra miliare più importante degli ultimi anni nel settore del deep learning e il loro impatto T è passato inosservato nei Mercati dei capitali.

Nell'ultimo anno, ci sono stati sforzi di ricerca attivi nella Finanza quantitativa che esplorano come i modelli di trasformatori possono essere applicati a diverse classi di attività. Tuttavia, i risultati di questi sforzi rimangono vaghi, dimostrando che i trasformatori sono ben lungi dall'essere pronti per funzionare in set di dati finanziari e rimangono per lo più applicabili a dati testuali. Ma non c'è motivo di sentirsi male. Mentre adattare i trasformatori agli scenari finanziari rimane relativamente impegnativo, altre nuove aree dello spazio di apprendimento profondo si stanno dimostrando promettenti quando applicate in modelli Quant su varie classi di attività, tra cui le Cripto.

Da molti punti di vista, le Cripto sembrano essere la classe di asset perfetta per i modelli Quant basati sul deep learning. Questo è dovuto al DNA digitale e alla trasparenza delle Cripto e al fatto che l'ascesa delle Cripto ha coinciso con una rinascita del machine learning e l'emergere del deep learning.

Dopo decenni di lotte e un paio di cosiddetti "inverni dell'intelligenza artificiale (IA)", il deep learning è finalmente diventato realtà e in un certo senso mainstream in diverse aree del settore del software. La Finanza quantitativa è stata ONE delle più rapide ad adottare nuove tecnologie e ricerche di deep learning. È molto comune per alcuni dei principali fondi Quant sul mercato sperimentare gli stessi tipi di idee provenienti da laboratori di ricerca di IA ad alta tecnologia come Facebook, Google o Microsoft.

Vedi anche:Jesus Rodriguez - 10 motivi per cui le strategie Quant per le Cripto falliscono

Alcuni degli sviluppi più entusiasmanti nel moderno finanziamento Quant non provengono da tecniche appariscenti come i trasformatori, ma da entusiasmanti innovazioni nell'apprendimento automatico che sono più sviluppate per gli scenari Quant . Molti di questi metodi sono perfettamente applicabili alle tecniche Quant di cripto-asset e stanno iniziando a fare breccia nei modelli Quant Cripto .

Di seguito, ho elencato cinque aree emergenti di apprendimento profondo che sono particolarmente importanti per gli scenari Cripto Quant . Ho cercato di KEEP le spiegazioni relativamente semplici e adattate agli scenari Cripto .

1) Reti neurali grafiche

I set di dati blockchain sono una fonte unica di alfa per i modelli Quant nello spazio Cripto . Da una prospettiva strutturale, i dati blockchain sono intrinsecamente gerarchici e sono rappresentati da un grafico con nodi che rappresentano indirizzi collegati da bordi che rappresentano transazioni. Immagina uno scenario in cui un modello Quant sta cercando di prevedere la volatilità in Bitcoinin un dato exchange in base alle caratteristiche degli indirizzi che trasferiscono fondi nell'exchange. Quel tipo di modello deve funzionare in modo efficiente su dati gerarchici. Ma la maggior parte delle tecniche di apprendimento automatico sono progettate per funzionare con set di dati tabulari, non con grafici.

Le reti neurali grafiche (GNN) sono una nuova disciplina di apprendimento profondo che si concentra su modelli che operano in modo efficiente su strutture di dati grafiche. Le GNN sono un'area relativamente nuova dell'apprendimento profondo, inventata solo nel 2005. Tuttavia, le GNN hanno visto molte adozioni da parte di aziende come Uber, Google, Microsoft, DeepMind e altre.

Nel nostro scenario di esempio, una GNN potrebbe usare un grafico come input che rappresenta i flussi in entrata e in uscita dagli exchange e dedurre conoscenze rilevanti rilevanti per il suo impatto sul prezzo. Nel contesto delle Cripto , le GNN hanno il potenziale di abilitare nuovi metodi Quant basati su set di dati blockchain.

2) Modelli generativi

ONE dei limiti dei modelli Quant di apprendimento automatico è la mancanza di grandi set di dati storici. Supponiamo che tu stia cercando di costruire un modello predittivo al prezzo di Chainlink (LINK) in base al suo comportamento di trading storico. Sebbene il concetto sembri attraente, potrebbe rivelarsi impegnativo poiché LINK ha poco più di un anno di dati di trading storici in exchange come Coinbase. Quel piccolo set di dati non sarà sufficiente per la maggior parte delle reti neurali profonde per generalizzare qualsiasi conoscenza rilevante.

I modelli generativi sono un tipo di metodo di apprendimento profondo specializzato nella generazione di dati sintetici che corrispondono alla distribuzione di un set di dati di training. Nel nostro scenario, immaginiamo di addestrare un modello generativo nella distribuzione del LINK orderbook in Coinbase per generare nuovi ordini che corrispondono alla distribuzione del vero orderbook.

Combinando il set di dati reale e ONE sintetico, possiamo costruire un set di dati sufficientemente grande per addestrare un modello di apprendimento profondo sofisticato. Il concetto di modello generativo non è particolarmente nuovo, ma ha ottenuto molta trazione negli ultimi anni con l'emergere di tecniche popolari come le reti neurali avversarie generative (GAN), che sono diventate ONE dei metodi più popolari in aree come la classificazione delle immagini e sono state utilizzate con successo rilevante con set di dati finanziari di serie temporali.

3) Apprendimento semi-supervisionato

I set di dati etichettati sono scarsi nello spazio Cripto e ciò limita fortemente il tipo di modelli Quant di apprendimento automatico (ML) che possono essere costruiti in scenari del mondo reale. Immagina di provare a costruire un modello ML che faccia previsioni di prezzo basate sull'attività degli sportelli OTC (over-the-counter). Per addestrare quel modello, avremmo bisogno di un ampio set di dati etichettati con indirizzi appartenenti agli sportelli OTC, che è il tipo di set di dati che solo poche entità nel mercato Cripto possiedono.

L'apprendimento semi-supervisionato è una tecnica di apprendimento profondo che si concentra sulla creazione di modelli in grado di Imparare con piccoli set di dati etichettati e un ampio volume di dati non etichettati. L'apprendimento semi-supervisionato è analogo a un insegnante che presenta alcuni concetti a un gruppo di studenti e lascia gli altri concetti ai compiti e all'autoapprendimento.

Nel nostro scenario di esempio, immaginiamo di addestrare un modello con un piccolo set di operazioni etichettate da sportelli OTC e un ampio set di operazioni non etichettate. Il nostro modello di apprendimento semi-supervisionato Imparare le caratteristiche chiave dal set di dati etichettato, come la dimensione o la frequenza delle operazioni, e utilizzerà il set di dati non etichettato per espandere l'addestramento.

4) Apprendimento della rappresentazione

L'estrazione e la selezione delle feature sono una componente chiave di qualsiasi modello di apprendimento automatico Quant e sono particolarmente rilevanti in problemi che non sono molto ben compresi, come le previsioni Cripto . Immagina di provare a costruire un modello predittivo per il prezzo di Bitcoin basato sui record del libro degli ordini.

ONE degli aspetti più importanti del nostro sforzo è determinare quali attributi o caratteristiche possono fungere da predittori. È il prezzo medio, il volume o un centinaio di altri fattori? L'approccio tradizionale è quello di affidarsi a esperti in materia per realizzare a mano queste caratteristiche, ma può diventare difficile scalare e mantenere nel tempo.

L'apprendimento della rappresentazione è un'area dell'apprendimento dep focalizzata sull'automazione dell'apprendimento di rappresentazioni solide o feature per costruire modelli più efficaci. Invece di affidarsi alla modellazione di feature Human , l'apprendimento della rappresentazione cerca di estrapolare le feature direttamente da set di dati non etichettati. Nel nostro esempio, un metodo di apprendimento della rappresentazione potrebbe analizzare il portafoglio ordini e identificare centinaia di migliaia di potenziali feature che possono fungere da predittori per i prezzi Bitcoin . Quel livello di scalabilità e automazione è impossibile da raggiungere nell'ingegneria manuale delle feature.

5) Ricerca dell'architettura neurale

Il processo di creazione di modelli di apprendimento automatico Quant rimane altamente soggettivo sotto molti aspetti. Prendiamo lo scenario di un modello che sta cercando di prevedere il prezzo di Ethereum in base all'attività in un set di protocolli DeFi. Data la natura del problema, gli scienziati dei dati avranno determinate preferenze sul tipo di modello e architettura da utilizzare.

Nel nostro scenario, la maggior parte di queste idee si baserebbe sulla conoscenza del dominio e su opinioni soggettive sul modo in cui l'attività nei protocolli DeFi può avere un impatto sul prezzo di Ethereum. Dato che l'apprendimento automatico si basa sulla costruzione di conoscenza e la conoscenza non è un'unità discreta, è quasi impossibile discutere i meriti di ONE metodo rispetto a un altro per un dato problema.

La ricerca di architettura neurale (NAS) è ONE del deep learning che cerca di automatizzare la creazione di modelli utilizzando l'apprendimento automatico. In un certo senso, utilizzando l'apprendimento automatico per creare l'apprendimento automatico. Dato un problema target e un set di dati, i metodi NAS valuteranno centinaia di possibili architetture di reti neurali e produrranno quelle con i risultati più promettenti.

Nel nostro scenario di esempio, un metodo NAS può elaborare un set di dati che incorpora le negoziazioni in exchange decentralizzati e produrre alcuni modelli in grado di prevedere potenzialmente il prezzo di Ethereum sulla base di tali registrazioni.

Altro in arrivo

I metodi descritti sopra rappresentano alcune aree emergenti e più sviluppate del deep learning che probabilmente avranno un impatto nei modelli Cripto Quant nel breve termine. E queste non sono di certo le uniche aree del deep learning a cui il Cripto Quant dovrebbe prestare attenzione.

Altre discipline di apprendimento profondo come l'apprendimento per rinforzo, l'apprendimento auto-supervisionato e persino i trasformatori stanno rapidamente facendo breccia nello spazio Quant . La ricerca e la sperimentazione sulle tecniche di apprendimento profondo applicate ai modelli Quant stanno avvenendo ovunque e la Cripto è destinata a essere una grande beneficiaria di questa ondata di innovazione.