HuaRenCa
Back to Forum
Community

Ich habe 350k+ mit AI-Beratung verdient und das Geld steckt nicht in Agenten. Es steckt größtenteils in Datenverrohrung.

rjhuantan
rjhuantan

2 months ago

Hallo zusammen – ich möchte meine Erfahrungen der letzten Jahre mit Automatisierungsberatung in Teilzeit (neben einem 9-to-5-Job) teilen. Zunächst komme ich aus dem Cloud-/Plattform-Engineering und der Entwicklung und habe mit Fortune-500-Finanzdienstleistungsunternehmen gearbeitet. Als ich den Multiplikator sah, den Dinge wie Claude Code (als es neu war) in Kombination mit echten Best Practices und Prinzipien bewirken können, war ich völlig begeistert.

Um es klar zu sagen: Alles, was ich jetzt erzähle, ist nur meine Erfahrung und das, worauf ich mich konzentriere.

Ich habe angefangen wie viele andere auch, indem ich kleine Unternehmen ansprach und ihnen half, ihre Prozesse und Abläufe zu automatisieren. Es war schmerzhaft. Die meisten wussten nur vage, was Automatisierung ist und worum es dabei geht. Das war etwa 2023, also noch frühe Tage für Dinge wie ChatGPT usw., aber ich stellte fest, dass kleinere Unternehmen entweder:

nicht das Geld hatten, um die monatliche Pauschale zu zahlen, die ich damals verlangte (3k/Monat) oder

nicht organisiert genug waren, um überhaupt zu artikulieren, was sie automatisiert haben wollten, oder zu verstehen, was „automatisierbar“ ist.

Das ließ mich erkennen, dass es wahrscheinlich einen guten Grund gibt, warum diese Unternehmen klein waren und klein blieben. Sie hatten keine Systeme, die ihnen halfen, zu wachsen/skalieren, und obwohl ich das anbieten konnte, wenn sie es nicht aus eigenem Antrieb wollten, kann ich es nicht erzwingen. Kurz gesagt: Zwinge niemandem Systeme auf, die nicht bereits selbst welche aufbauen.

Im Laufe der Zeit stellte ich fest, dass ich weiterhin größere, aber immer noch mittelgroße Kunden (5M+ / Jahr Umsatz) gewann. Denken Sie an bekannte Namen, aber in kleineren Bereichen/Branchen. Jeder von ihnen hatte das gleiche Problem. Sie wollten KI nutzen, fanden die Ergebnisse aber entweder sehr generisch und nicht auf ihr Geschäft zugeschnitten, oder die wichtigsten Anwendungsfälle erforderten viele Tools, die nicht gut miteinander kommunizierten. Grundsätzlich hatten sie keinen Daten-Fußabdruck (Erfassung, Speicherung, Governance, Transformation usw.)

Ich habe jetzt mit 10+ Unternehmen in mehreren Branchen zusammengearbeitet, um eine Art KI-Datenplattform aufzubauen. Denken Sie an Konnektoren über API zu all ihren Kern-Tools und Diensten, die diese Daten regelmäßig erfassen, normalisieren und in AWS S3 schreiben, mit einem Datenkatalog aller regelmäßig erfassten Daten.

Es ist keine sexy Arbeit, aber sie schafft die Grundlage für jeden anderen Automatisierungs-Anwendungsfall, an dem wir gemeinsam gearbeitet haben. Die Vertrautheit mit ihren Daten, ihren Kerndiensten usw. ermöglichte es mir, Automatisierungen exponentiell schneller zu entwickeln, da ich nie benutzerdefinierte Integrationen erstellen musste, um die Daten zu bekommen, herauszufinden, wo ich sie ablegen würde, usw.

Fragen zu Abwanderung, Werbeausgaben, CAC usw., die früher mühsam zu beantworten waren, wurden super einfach, wenn man Codex und Claude Code einfach auf den Data Lake in AWS verweisen und loslegen konnte. Dies wiederum hat auch zu einer schnellen und kontinuierlichen Entwicklung von Dashboards geführt, da sie so schnell und einfach zu erstellen sind, sobald alle Daten zugänglich sind.

Erst jetzt, nach Monaten des Aufbaus der gesamten grundlegenden Plattform-Tools und Infrastruktur, kommen wir zu wirklich agentischen Arbeiten. Der eigentliche Knackpunkt ist jedoch, dass die Leute denken, sie bräuchten Agenten und agentische Arbeit, obwohl sie in Wirklichkeit als Ausgangspunkt nur ein besseres Verständnis dafür suchen, was in ihrem Unternehmen zu einem bestimmten Zeitpunkt passiert und wie sie die Verbindungen zwischen diesen Datenpunkten herstellen können.

Der von mir verwendete Tech-Stack basiert auf AWS, muss es aber nicht sein. Ich verwende AWS, weil ich es seit Jahren nutze und recht gut darin bin, es kosteneffektiv einzusetzen. Es erlaubt mir auch, im Wesentlichen eine Plattform für meine gesamte Arbeit zu verwenden, was viele Integrationsvorteile hat.

Auf hoher Ebene verwende ich Folgendes:

Lambdas / ECS-Aufgaben für die Datenerfassung

S3 für Data Lake Storage

Athena für Datenabfragen

Glue für Datenkatalogisierung

Cognito für Authentifizierung + Google Workspace Auth

CloudWatch für Protokollierung + Alarmierung

Secrets Manager für API-Schlüssel

CloudFront für das Hosting benutzerdefinierter Web-Frontends für Dashboards und zur Steigerung der Nutzung

GitHub Actions + Cloudformation / CDK für die Bereitstellung

Ich lege großen Wert darauf, dass dies eine unternehmensgerechte Infrastruktur und Konfiguration ist, denn eine Automatisierung, der man nicht vertrauen kann, ist am Ende nur KI-Schrott.

Für Kunden, mit denen ich diese Arbeit mache, zahlen die meisten zwischen 7.500 und 15.000 Dollar pro Monat für meine Dienstleistungen und bezahlen die Infrastruktur separat unter ihrem eigenen AWS-Konto. Die Arbeit ist nicht unbedingt „einfach“ für jemanden ohne Cloud-Erfahrung, also ist das eine der Einschränkungen in dieser ganzen Sache, aber sie ist beständig und klebrig wie die Hölle. Die Leute behalten einen, weil sie ständig neue Berichte/Funktionen wollen und weil man da sein muss, wenn etwas kaputt geht.

Ich habe vieles davon weitgehend automatisiert, mit automatischer Wiederherstellung fehlgeschlagener Jobs, Berichts-Dashboards zur Verfolgung und Auslösung von Alarmen bei Fehlern und Runbooks, um die Dinge am Laufen zu halten, aber ich finde, dass dies ein ziemlich leicht wiederholbares Modell ist.

Das Beste an diesem Angebot ist, dass es wirklich maßgeschneidert sein muss. Es gibt keine sauberen Standardlösungen, die Unternehmen dafür nutzen könnten. Die Konnektoren für verschiedene Dienste zur Datenerfassung sind ebenfalls wiederholbar.

Wie auch immer, das ist mein Pitch für den Verkauf der weniger sexy Dinge wie KI-Datenpipelines und meine Erfahrung damit. Der Bedarf dafür wird nicht verschwinden, und jeder Einwand wie „verwende einfach MCPs“ zeigt auch ein mangelndes Verständnis dafür, wann deterministische Arbeitslasten benötigt werden und welche zugrunde liegende Infrastruktur für den Betrieb solcher Arbeitslasten erforderlich ist.

Hoffentlich war das hilfreich für die Leute und ist eine willkommene Abwechslung für diejenigen, die das Gefühl haben, dass die einzige Möglichkeit, in diesem Bereich Geld zu verdienen, KI-Telefonagenten für 300 Dollar im Monat sind (nicht, dass ich das schlechtrede, es ist nur das, was ich oft sehe).

Ich beantworte gerne Fragen dazu und veröffentliche auch regelmäßig Bildungsinhalte zu den Konzepten, die ich für Kunden entwickle/einsetze.

6
11

Comments (6)

Your avatar
Sign in to comment
rjhuantan
rjhuantan2 months ago

Hey, I put a long post above about the acquiring customers. As for the getting them to agree, I basically broke down how owning your data is one of the most important things you can do as a business and if you want to have any truly differentiated models / data advantage you need to not only own and store it but also leverage it in ways that are better than what your customers are doing.

Selling them on the concept of having a business "brain" is usually something that resonates but you have to be extremely clear that in doing that, you have to build out all the foundational stuff to support and accomplish that.

It's not for everyone or every business but I've found that most businesses didn't push back much when I framed it like that and if they did then you have a pretty good idea that they're not a data driven business and that's ok too as the solution isn't the right fit for them then.

sanqi
sanqi2 months ago

This is great thank you. Do you have any recommendations on how to get some of the cloud experience you already have? Whether it’s specific to AWS or general, it would be much appreciated. Thanks in advance!

rjhuantan
rjhuantan2 months ago

So I'm going to say something pretty controversial here, but hear me out.

I actually think that the right cert training courses can be super valuable for learning the cloud generally. I have really enjoyed u/AdrianCantrill courses as well as Stephane Maarek's classes for AWS. Both try and go above and beyond "just getting the cert" and try and teach you some real hands on examples to use this tech in real life.

The cert itself isn't worth the paper it's printed on in most cases. What is however worthwhile is the structure that the certs and the training courses provide to get started.

Then from there it's all about throwing yourself in the deep end and trying to find real world problems (whether they be your own, a family friends that owns a business, your partners, etc. ) and building a solution in AWS to really put your theoretical knowledge to the test to make it actually tangible.

I was saying to someone that reached out directly about AWS and wanted to call out that you shouldn't get discouraged if you feel overwhelmed with AWS / other CSPs. There are over 400 services and I've been using and building in it for 6 or 7 years now and still learn stuff constantly in it. Just because you're learning new stuff in it doesn't mean you can't use it with whatever baseline you have.

zhezhe
zhezhe2 months ago

I loved reading through your post. I am curious to learn more about the types of workflow and business problems that your system solves - with concrete examples. Any case study would be great. In addition, if you are ok to share what sectors/size are your clients, how do you discover them and lastly - do your clients use other solutions on top of what you offer?

rjhuantan
rjhuantan2 months ago

I'm actually in the process of publishing one. Let me see if I can get you an early preview that makes it more real. A lot of it is around reporting, automation of Ad Spend analytics, slack alerting, etc. nothing revolutionary, but all stuff that the team would spend time doing manually before.

meisan
meisan2 months ago

Yep — most of the messy work is data access, not agent logic. You can build sophisticated orchestration, but if the underlying data is inconsistent or undocumented, the agent hallucinates to fill the gaps. The actual consulting win usually ends up being "get this data structured well enough for a machine to reason about it reliably."