Die Wurzeln seines diakonischen Engagements liegen schon in seiner Kindheit: Als „Hamburger Jung“ sieht er das Elend eines großen Teils der Hamburger Bevölkerung, besonders in den Hamburger Gängevierteln rund um die St. Michaelis-Kirche, mit eigenen Augen. Hier lebt der Großteil der damaligen Hamburger Bevölkerung in menschenunwürdigen Wohnverhältnissen. Besonders die katastrophalen hygienischen Bedingungen (es gibt zu dieser Zeit weder ein Wasser- noch Abwassersystem) führen zu gesundheitlichen und sozialen Problemen.
Angeregt durch seine Großmutter und seine Mutter besucht Heinrich Sengelmann schon als Kind die Gottesdienste des Gründers der „Erweckungsbewegung“, Pastor Johann Wilhelm Rautenberg, der sein theologisches Denken und sein Menschenbild maßgeblich beeinflusst. Besonders die von Rautenberg in dessen Predigten angemahnte Pflicht, aus biblischem Menschenverständnis heraus den Menschen konkrete Hilfe zu leisten, beeindruckt Sengelmann sehr und wird sein zukünftiges Denken und Handeln nachhaltig bestimmen. Die von Rautenberg in Hamburg-St. Georg gegründete „Sonntagsschule“, an der er später auch selbst als Lehrer arbeitet, dient ihm dabei als Vorbild für sein eigenes diakonisches Wirken.
Nach dem Studium kümmert er sich auf seiner ersten Pfarrstelle mit einer „Christlichen Arbeitsschule“ schon um hilfsbedürftige Kinder und Jugendliche.
Besonders in dieser Zeit pflegt Sengelmann auch einen guten Kontakt mit Johann Hinrich Wichern, dem Gründer der „Inneren Mission“. Auch Wichern, ebenfalls Mitarbeiter der „Sonntagsschule“, hat im Rahmen intensiver Hausbesuche bei Familien das Ausmaß des sozialen Elends kennengelernt. Das von ihm 1833 gegründete „Rauhe Haus“ beschreibt er als „Rettungsanstalt für verwahrloste Kinder“. Besonders während Sengelmanns Zeit als Pastor in Moorfleet von 1846 bis 1853 gibt es gute und vielfältige Kontakte zwischen den beiden diakonischen Akteuren. Sengelmanns Augenmerk richtet sich zunehmend auf die Menschen, die unter den gegebenen sozialen Verhältnissen besonders chancenlos sind: den Menschen mit Behinderung. Hier soll fortan sein Arbeitsschwerpunkt liegen.
Mit dem 1863 gegründeten „Asyl“ für behinderte Kinder, die Alsterdorfer Anstalten, markiert Heinrich Matthias Sengelmann den Beginn einer ernstzunehmenden Behindertenarbeit in Norddeutschland.
Drei wichtige Grundgedanken von Sengelmann:
„Wir haben es nicht mit Fällen zu tun, sondern mit Mitmenschen …“
(in denen auch eine unsterbliche Seele wohnt, wenn auch eine verhüllte“.)
„Jeder Mensch ist bildungsfähig.“
„Letztes Ziel auch der Erziehung sei die „Selbsterziehung“, das „Mündigsein“.