Um h(x) zu bestimmen, brauchst Du die Steigung und eben einen Punkt (wegen der Punktsteigungsformel). Die Steigung aus A(1/2|8/3) und B(3|1) bestimmt so:

m = (1 - 8/3) / (3 - 1/2)

Also die Differenz der y-Werte der zwei Punkte bilden und durch die Differenz der x-Werte teilen. Und dann hast Du ja zwei Punkte, nimm einen, setz ihn in die Punktsteigungsformel mit der Steigung m ein, und Du hast h(x).

Um den Schnittpunkt von g und h zu bekommen, setzt Du einfach beide Gleichungen gleich. Also in Worten: Du willst schauen, bei welchem x-Wert beide Geraden den selben y-Wert haben.
Also:

g(x) = h(x)

Und das löst Du nun nach x auf. Wenn Du x hast, setzt Du das entweder in h oder g ein (ist egal in welche, ergibt ja den selben Wert), dann hast Du den Punkt, mit x und y-Wert, in dem sich beide Geraden schneiden. Nun hast Du ja alle drei Punte des Dreiecks gegeben (1. Punkt ist durch den y-Achsen-Abschnitt der Geraden h gegeben, der 2. durch den y-Achsen-Abschnitt der Geraden g und der 3. durch den Schnittpunkt der beiden Geraden gegeben), dann ist es ja recht einfach, die Fläche auszurechnen (vor allem die Höhe hast Du automatisch aus dem Schnitpunkt der beiden Geraden).