Vinay Kumar Sankarapu ist Mitbegründer und CEO von Arya.ai, einer Plattform, die die „KI“-Cloud für Banken anbietet , Versicherer und Finanzdienstleister (BFSI), um die richtigen KI-APIs, KI-Expertenlösungen und umfassende KI-Governance-Tools zu finden, die für den Einsatz vertrauenswürdiger und selbstlernender KI-Engines erforderlich sind.
Ihr Hintergrund liegt in Mathematik , Physik, Chemie und Maschinenbau, könnten Sie Ihren Weg zum Übergang zu Informatik und KI besprechen?
Am IIT Bombay haben wir ein „Dual Degree Program“, das einen 5-jährigen Kurs bietet um sowohl Bachelor of Technology als auch Master of Technology abzudecken. Ich habe Maschinenbau mit der Spezialisierung „Computer Aided Design and Manufacturing“ studiert, wobei Informatik Teil unseres Lehrplans ist. Für unsere postgraduale Forschung habe ich mich entschieden, an Deep Learning zu arbeiten. Während ich mit der Verwendung von DL begann, um ein Fehlervorhersage-Framework für die kontinuierliche Fertigung zu erstellen, beendete ich meine Forschung zur Verwendung von CNNs für die RUL-Vorhersage. Das war etwa 2013/14.
Sie haben Arya.ai noch während Ihres Studiums gegründet. Können Sie die Entstehungsgeschichte hinter diesem Startup erzählen?
Als Teil der akademischen Forschung mussten wir 3-4 Monate für eine Literaturrecherche aufwenden um eine detaillierte Studie über das interessierende Thema, den Umfang der bisherigen Arbeit und mögliche Schwerpunkte unserer Forschung zu erstellen. 2012/13 waren die von uns verwendeten Tools recht einfach. Suchmaschinen wie Google Scholar und Scopus führten lediglich eine Stichwortsuche durch. Es war wirklich schwierig, die Menge an verfügbarem Wissen zu verstehen. Ich dachte, dieses Problem würde nur noch schlimmer werden. Im Jahr 2013 wurden, glaube ich, jede Minute mindestens 30+ Artikel veröffentlicht. Heute ist das mindestens das 10-bis 20-fache.
Wir wollten einen”KI”-Assistenten wie einen”Professor”für Forscher aufbauen, um ihnen dabei zu helfen, ein Forschungsthema vorzuschlagen und eine geeignete Arbeit zu finden aktuell und alles rund um die MINT-Forschung. Mit unserer Erfahrung im Deep Learning dachten wir, wir könnten dieses Problem lösen. 2013 haben wir Arya.ai mit einem 3-köpfigen Team gestartet, und 2014, als ich noch auf dem College war, wurde es auf 7 erweitert.
Unsere erste Version des Produkts wurde erstellt, indem mehr als 30 Millionen gescrapt wurden Aufsätze und Abstracts. Wir haben damals modernste Techniken des Deep Learning verwendet, um einen KI-STEM-Forschungsassistenten und eine kontextbezogene Suchmaschine für STEM zu entwickeln. Aber als wir den KI-Assistenten einigen Professoren und Kollegen vorstellten, stellten wir fest, dass wir zu früh waren. Der Gesprächsfluss war begrenzt und die Benutzer erwarteten einen freien Fluss und kontinuierliche Conversions. Die Erwartungen waren damals (2014/15) sehr unrealistisch, obwohl es komplexe Fragen beantwortete.
Danach wandten wir uns der Nutzung unserer Forschung zu und konzentrierten uns auf ML-Tools für Forscher und Unternehmen als Werkbank zur Demokratisierung tiefes Lernen. Aber auch hier haben 2016 nur sehr wenige Data Scientists DL verwendet. Also haben wir damit begonnen, es für eine Vertikale zu vertikalisieren und uns auf den Aufbau spezialisierter Produktschichten für eine Vertikale zu konzentrieren, d. h. Finanzdienstleistungsinstitute (FSIs). Wir wussten, dass dies funktionieren würde, denn während große Player darauf abzielen, das horizontale Spiel zu gewinnen, kann die Vertikalisierung einen großen USP für Startups schaffen. Diesmal hatten wir Recht!
Wir bauen die KI-Cloud für Banken, Versicherungen und Finanzdienstleister mit den spezialisiertesten vertikalen Schichten auf, um skalierbare und verantwortungsbewusste KI-Lösungen bereitzustellen.
Wie groß ist das Problem der KI-Blackbox im Finanzwesen?
Extrem wichtig! Nur 30 % der Finanzinstitute schöpfen das volle Potenzial von „KI“ aus. Während einer der Gründe die Zugänglichkeit ist, ist ein anderer das mangelnde Vertrauen in die KI und die Überprüfbarkeit. In einigen Regionen gibt es jetzt klare Vorschriften über die Rechtmäßigkeit der Verwendung von KI für Anwendungsfälle mit geringer, mittlerer und hoher Sensibilität. In der EU ist es gesetzlich vorgeschrieben, transparente Modelle für Anwendungsfälle mit „hohem Risiko“ zu verwenden. Viele Anwendungsfälle in Finanzinstituten sind Anwendungsfälle mit hohem Risiko. Daher müssen sie White-Box-Modelle verwenden.
Hype-Zyklen setzen sich auch aufgrund früher Erfahrungen mit KI-Lösungen ab. In letzter Zeit gibt es eine wachsende Zahl von Beispielen für die Auswirkungen der Verwendung von Blackbox-‘KI’, Versagen von’KI’, weil sie nicht überwacht werden, und Herausforderungen mit Rechts-und Risikomanagern wegen eingeschränkter Prüfbarkeit.
Könnten Sie den Unterschied zwischen ML-Überwachung und ML-Beobachtbarkeit erörtern?
Die Aufgabe eines Überwachungstools besteht einfach darin, zu überwachen und zu warnen. Und die Aufgabe eines Observability-Tools besteht nicht nur darin, zu überwachen und zu berichten, sondern vor allem genügend Beweise zu liefern, um die Gründe für Fehler zu finden oder diese Fehler im Laufe der Zeit vorherzusagen.
Bei KI/ML diese Tools spielen eine entscheidende Rolle. Während diese Tools die erforderlichen Rollen oder die Überwachung bereitstellen können, ist der Umfang der ML-Beobachtbarkeit
Warum sind branchenspezifische Plattformen für die ML-Beobachtbarkeit im Vergleich zu Allzweckplattformen erforderlich?
Allzweckplattformen sind für jeden und jeden Anwendungsfall konzipiert, unabhängig von der Branche – jeder Benutzer kann an Bord kommen und mit der Nutzung der Plattform beginnen. Die Kunden dieser Plattformen sind in der Regel Entwickler, Datenwissenschaftler usw. Die Plattformen stellen die Beteiligten jedoch aufgrund ihrer komplexen Natur und ihres einheitlichen Ansatzes vor mehrere Herausforderungen.
Leider die meisten Unternehmen Heutzutage müssen Data-Science-Experten Allzweckplattformen verwenden und zusätzliche Lösungen/Produktschichten benötigen, um diese Modelle für die Endbenutzer in jeder Branche „nutzbar“ zu machen. Dazu gehören Erklärbarkeit, Auditing, Segmente/Szenarien, Human-in-the-Loop-Prozesse, Feedback-Labeling, Auditing, Tool-spezifische Pipelines etc.
Hier kommen branchenspezifische KI-Plattformen ins Spiel. Eine branchenspezifische KI-Plattform besitzt den gesamten Workflow, um die Bedürfnisse oder Anwendungsfälle eines bestimmten Kunden zu lösen, und wird entwickelt, um ein vollständiges Produkt von Anfang bis Ende bereitzustellen, vom Verständnis der Geschäftsanforderungen bis zur Überwachung der Produktleistung. Es gibt viele branchenspezifische Hürden, wie z. B. regulatorische und Compliance-Rahmenbedingungen, Datenschutzanforderungen, Prüfungs-und Kontrollanforderungen usw. Branchenspezifische KI-Plattformen und-Angebote beschleunigen die Einführung von KI und verkürzen den Weg zur Produktion, indem sie die Entwicklungszeit und die damit verbundenen Risiken reduzieren beim KI-Rollout. Darüber hinaus wird dies auch dazu beitragen, KI-Expertise in der Branche als Produktschicht zusammenzubringen, die dazu beiträgt, die Akzeptanz von „KI“ zu verbessern, Compliance-Bemühungen voranzutreiben und gemeinsame Ansätze in Bezug auf Ethik, Vertrauen und Reputationsanliegen zu finden.
Können Sie uns einige Details zur ML Observability-Plattform mitteilen, die von Arya.ai angeboten wird?
Wir arbeiten seit mehr als 6 Jahren in Finanzdienstleistungsinstituten. Seit 2016. Dadurch wurden wir schon früh mit einzigartigen Herausforderungen beim Einsatz komplexer KI in FSIs konfrontiert. Eine der wichtigsten Herausforderungen war die „KI-Akzeptanz“. Anders als in anderen Branchen gibt es viele Vorschriften für die Verwendung von Software (auch für „KI“-Lösungen), Datenschutz, Ethik und vor allem die finanziellen Auswirkungen auf das Unternehmen. Um diese Herausforderungen in großem Umfang anzugehen, mussten wir kontinuierlich neue Ebenen der Erklärbarkeit, Prüfung, Nutzungsrisiken und Rechenschaftspflicht zusätzlich zu unseren Lösungen erfinden und hinzufügen – Schadensbearbeitung, Underwriting, Betrugsüberwachung usw. Im Laufe der Zeit haben wir ein akzeptables und skalierbares ML entwickelt Beobachtbarkeits-Framework für verschiedene Interessengruppen in der Finanzdienstleistungsbranche.
Wir veröffentlichen jetzt eine DIY-Version des Frameworks als AryaXAI (xai.arya.ai). Jedes ML-oder Geschäftsteam kann AryaXAI verwenden, um eine hochgradig umfassende KI-Governance für unternehmenskritische Anwendungsfälle zu erstellen. Die Plattform bringt Transparenz und Überprüfbarkeit in Ihre KI-Lösungen, die für alle Beteiligten akzeptabel sind. AryaXAI macht KI sicherer und akzeptabler für geschäftskritische Anwendungsfälle, indem es eine zuverlässige und genaue Erklärbarkeit bietet, Beweise bietet, die die regulatorische Sorgfalt unterstützen können, die KI-Unsicherheit durch die Bereitstellung fortschrittlicher Richtlinienkontrollen handhabt und die Konsistenz in der Produktion gewährleistet, indem es Daten oder Modellabweichungen überwacht und Benutzer alarmiert mit Ursachenanalyse.
AryaXAI fungiert auch als gemeinsamer Workflow und liefert Erkenntnisse, die von allen Beteiligten akzeptiert werden – Data Science, IT, Risk, Operations und Compliance-Teams, was die Einführung und Wartung von KI/ML-Modellen nahtlos macht und übersichtlich.
Eine weitere Lösung, die angeboten wird, ist eine Plattform, die die Anwendbarkeit des ML-Modells durch kontextbezogene Richtlinienimplementierung verbessert. Können Sie beschreiben, was genau das ist?
Es wird schwierig, ML-Modelle in der Produktion zu überwachen und zu steuern, aufgrund der schieren Menge an Funktionen und Vorhersagen. Darüber hinaus macht es die Unsicherheit des Modellverhaltens schwierig, Governance, Risiko und Compliance zu verwalten und zu standardisieren. Solche Fehler der Modelle können zu schweren Reputations-und finanziellen Verlusten führen.
AryaXAI bietet „Richtlinien-/Risikokontrollen“, eine entscheidende Komponente, die geschäftliche und ethische Interessen wahrt, indem Richtlinien für KI durchgesetzt werden. Benutzer können Richtlinien einfach hinzufügen/bearbeiten/ändern, um Richtlinienkontrollen zu verwalten. Dies ermöglicht es funktionsübergreifenden Teams, Richtlinienrichtlinien zu definieren, um eine kontinuierliche Risikobewertung sicherzustellen und das Unternehmen vor KI-Unsicherheit zu schützen.
Was sind einige Beispiele für Anwendungsfälle für diese Produkte?
AryaXAI kann branchenübergreifend für verschiedene unternehmenskritische Prozesse implementiert werden. Die häufigsten Beispiele sind:
BFSI: In einem Umfeld strenger Vorschriften macht es AryaXAI der BFSI-Branche leicht, sich an die Anforderungen anzupassen und die erforderlichen Nachweise für das Risikomanagement zu sammeln und Gewährleistung der Compliance.
Kreditvergabe für sichere/unbesicherte KrediteIdentifizierung von Betrug/verdächtigen TransaktionenAuditManagement des KundenlebenszyklusKreditentscheidung
Autonome Autos: Autonome Fahrzeuge müssen strenge Vorschriften, Betriebssicherheit und Erklärbarkeit in der Realität einhalten zeitliche Entscheidungen. AryaXAI ermöglicht ein Verständnis dafür, wie das KI-System mit dem Fahrzeug interagiert
EntscheidungsanalyseAutonomer FahrzeugbetriebFahrzeugzustandsdatenÜberwachung des KI-Fahrsystems
Gesundheitswesen: AryaXAI bietet tiefere Einblicke aus medizinischen, technologischen, rechtlichen und Patientendaten Perspektiven. Von der Arzneimittelentdeckung bis hin zu Herstellung, Vertrieb und Marketing fördert Arya-xAI die multidisziplinäre Zusammenarbeit
ArzneimittelentdeckungKlinische ForschungDatenvalidierung aus klinischen StudienHöhere Versorgungsqualität
Was ist Ihre Vision für die Zukunft des maschinellen Lernens im Finanzwesen?
In den letzten zehn Jahren gab es eine enorme Aufklärung und Vermarktung rund um „KI“. Wir haben in dieser Zeit mehrere Hype-Zyklen erlebt. Wir wären jetzt wahrscheinlich im 4. oder 6. Hype-Zyklus. Die erste war, als Deep Learning 2011/12 ImageNet gewann, gefolgt von Arbeiten rund um die Bild-/Textklassifizierung, Spracherkennung, autonome Autos, generative KI und derzeit mit großen Sprachmodellen. Die Lücke zwischen dem Höhepunkt des Hypes und der Massennutzung verringert sich mit jedem Hype-Zyklus aufgrund der Iterationen rund um das Produkt, die Nachfrage und die Finanzierung.
Diese drei Dinge sind jetzt passiert:
Ich denke Wir haben den Maßstabsrahmen für KI-Lösungen geknackt, zumindest von einigen Experten. Open AI beispielsweise ist derzeit eine Organisation, die keine Einnahmen generiert, aber sie prognostiziert einen Umsatz von 1 Milliarde US-Dollar innerhalb von 2 Jahren. Auch wenn nicht jedes KI-Unternehmen eine ähnliche Größenordnung erreicht, ist das Muster der Skalierbarkeit klarer. Die Definition idealer KI-Lösungen ist in allen Branchen fast klar: Im Gegensatz zu früher, wo das Produkt durch iterative Experimente entwickelt wurde Für jeden Anwendungsfall und jedes Unternehmen werden die Beteiligten zunehmend geschult, um zu verstehen, was sie von KI-Lösungen erwarten.Die Vorschriften holen jetzt auf: Der Bedarf an klaren Vorschriften zum Datenschutz und zur KI-Nutzung gewinnt jetzt an Bedeutung. Leitungsgremien und Regulierungsbehörden sind in der Lage, Rahmenbedingungen zu veröffentlichen, die für die sichere, ethische und verantwortungsvolle Nutzung von KI erforderlich sind, oder sind dabei, diese zu veröffentlichen.
Was kommt als Nächstes?
Die Explosion von „Model-as-a-service(MaaS)“:
Wir werden eine zunehmende Nachfrage nach „Model-as-a-Service“-Angeboten sehen, nicht nur horizontal, sondern auch vertikal. Während „OpenAI“ ein gutes Beispiel für „Horizontales MaaS“ darstellt, ist Arya.ai ein Beispiel für vertikales „MaaS“. Mit der Erfahrung von Bereitstellungen und Datensätzen hat Arya.ai kritische vertikale Datensätze gesammelt, die zum Trainieren von Modellen genutzt werden, und sie als Plug-and-Use-oder vortrainierte Modelle bereitzustellen.
Vertikalisierung ist die neue Horizontale: Wir haben diesen Trend bei der „Cloud-Akzeptanz“ beobachtet. Während sich horizontale Cloud-Player auf „Plattformen für alle“ konzentrieren, konzentrieren sich vertikale Player auf die Anforderungen des Endbenutzers und bieten diese als spezialisierte Produktschicht an. Dies gilt sogar für MaaS-Angebote.
XAI-und KI-Governance wird zur Norm in Unternehmen: Abhängig von der Sensibilität der Vorschriften wird jede Branche ein akzeptables XAI-und Governance-Framework erreichen das würde als Teil des Designs implementiert werden, im Gegensatz zu heute, wo es als Add-on behandelt wird.
Generative KI auf tabellarischen Daten kann seine Hype-Zyklen in Unternehmen erleben: Das Erstellen synthetischer Datensätze ist angeblich eine der einfach zu implementierenden Lösungen, um datenbezogene Herausforderungen in Unternehmen zu lösen. Data-Science-Teams würden dies sehr bevorzugen, da das Problem in ihrer Kontrolle liegt, im Gegensatz dazu, sich auf das Geschäft zu verlassen, da dies zeitaufwändig und teuer sein kann und nicht garantiert ist, dass alle Schritte beim Sammeln von Daten befolgt werden. Synthetische Daten lösen Verzerrungsprobleme, Datenungleichgewicht, Datenschutz und unzureichende Daten. Natürlich muss die Wirksamkeit dieses Ansatzes noch bewiesen werden. Mit zunehmender Reife neuer Techniken wie Transformer werden wir jedoch möglicherweise mehr Experimente mit traditionellen Datensätzen wie tabellarischen und mehrdimensionalen Daten sehen. Bei Erfolg kann dieser Ansatz enorme Auswirkungen auf Unternehmen und MaaS-Angebote haben.
Gibt es noch etwas, das Sie über Arya.ai mitteilen möchten?
Der Fokus von Arya.ai liegt auf der Lösung der „KI“ für Banken, Versicherungen und Finanzdienstleister. Unser Ansatz ist die Vertikalisierung der Technologie bis in die letzte Ebene und macht sie für alle Organisationen und Interessengruppen nutzbar und akzeptabel.
AryaXAI (xai.arya.ai) wird eine wichtige Rolle dabei spielen, sie den Massen zur Verfügung zu stellen innerhalb der FSI-Vertikale. Unsere laufende Forschung zu synthetischen Daten war in einer Handvoll Anwendungsfällen erfolgreich, aber wir wollen sie zu einer praktikableren und akzeptableren Option machen. Wir werden unserer „KI“-Cloud weitere Ebenen hinzufügen, um unsere Mission zu erfüllen.
Ich denke, wir werden mehr Startups wie Arya.ai sehen, nicht nur in der FSI-Branche, sondern in jeder Branche.
Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Arya.ai besuchen.