О некоторых свойствах производных многозначных отображений

Проблему дифференцирования многозначных отображений Ғ : X ^ Р(У) (где Р(У) - множество всех подмножеств некоторого банахова пространства У) исследовали многие ученые, начиная со второй половины двадцатого века. Проблема состояла в том, что Р(У) не является линейным пространством. Тем не менее первоначальные подходы к дифференцированию многозначных отображений строились по аналогии с тем, как это делается для функций (см., например, [1,2]).

Примеры аппроксимаций многозначных отображений около некоторой точки графика, через касательные конусы были предложены в работах De Blasi F.S. [3], Б.Н. Пшеничного [4] и В.Ф. Демьянова. - А.М. Рубинова [5]. Впервые понятие производной многозначного отображения, опирающееся на понятие касательного конуса к графику отображения, было введено в работах Ж.-П. Обена. и автора, (см., например, [6-9]).

В данной работе предложены новые классы производных с выпуклыми графиками от многозначных отображений. Установлены явные формулы вычисления новых производных, а. также формулы вычисления эпипроизводных и гипопроизводных, эписубдифференциалов и гипосубдифференциалов функций как для общего случая, так и в случаях псевдолипшицевых многозначных отображений. Получены свойства, и условия совпадения различных субдифференциалов для функций, представимых в виде разности двух выпуклых функций.

2.    Касательные конусы

Напомним основные определения. Пусть X, У — банаховы пространства. Через Р (У) будем обозначать множество всех подмножеств пространства У, а через /С(У) (^(У)) — метрическое (топологическое) пространство, состоящее из компактов (непустых замкнутых подмножеств) из пространства У с хаусдорфовым расстоянием h(^, •) (с соответствующей топологией). Расстоянием по Хаусдорфу месисду мноснсествами А, В С X называется

К(А, В) = inf{т > 0 | А С В + ВТ(0), В С А + Вт(0)}, где Вт(а) = {ж G X | ||ж — а|| < т} — открытый шар радиуса т > 0 с центром в точке а. Произведение на число, сумма и разности Минковского определяются по формулам: ХА = {ж G X | ж = Ха, а G А}, А + В = {ж G X | ж = а + Ь, а G А, Ь G В}, А — В = {ж G X | ж + В С А}. р(ж, А) = inf{|ж — у| | у G А} - расстояние от точки до мномсества. Конусом называется всякое непустое множество То С X, у которого для каждого ж G То справедливо включение Хж G То при всех Х > 0.

Напомним, что совокупность всех векторов, касательных к множеству А в некоторой точке а образуют следующий конус (см. [4,12]).

Нижним касательным конусом ко множеству А С X в точке а Е А называется нижний топологический предел вида

Тн (А; а) = liminf —-— = {г Е X | limp(v, А^-1(А — а)) = 0}. ащ   А            АЩ

Следуя Булигану (G. Bouligand) [10] и Кларку [11], получаем другие конусы.

Верхним касательным конусом (иначе называют: контингентным конусом или конусом Булигана (см. [12, Ц])) ко множеству А С X в точке а Е А называется верхний топологический предел вида

Тв (А; а) = limsup —-— = {г EX | liminf р(г, А^-1(А — а)) = 0}. ащ   А             АЩ

Касательным конусом Кларка ко множеству А С X в точке а Е А называется

Тс (А; а) = liminf ^—^ = {г EX | lim p(v, А-1(А — ж)) = 0}, А^0, х^а А                 А^0, х^а где стремление ж ^ а совершается по множеству А.

Очевидны включения Тс (А; а) С Тн (А; а) С Тв (А; а). Если же множество А выпукло (или локально выпукло), то имеет место равенство всех указанных конусов.

Важнейшим свойством касательного конуса Кларка Тс (А; а) является его выпуклость (см., например, [11]). Недостатком касательного конуса Кларка является его малость по сравнению с нижним и тем более с верхним касательным конусом. Недостатком нижнего и верхнего касательных конусов является отсутствие гарантированной выпуклости.

Для устранения последнего недостатка в работе [8] был указан алгоритм, по которому во всяком касательном конусе можно выбрать выпуклый подконус.

Лемма 1. [8] Для всякого замкнутого конуса То множество То — То является его выпуклым замкнутым подконусом. В случае, когда замкнутый конус То является выпуклым, то справедливо равенство То = То — То.

В результате приходим к следующим понятиям, являющимся уточнением понятий, введенных в работах [8,15].

Определение 1. Первым асимптотическим нижним (первым асимптотическим верхним) касательным конусом ко множеству А в точке а Е А называется множество

Т_Лні(А; а) = Тн (А; а) ^ Тн (А; а) (Т^ві (А; а) = Тв (А; а) ^ Тв (А; а)).

Определение 2. Вторым асимптотическим нижним касательным конусом ко множеству А в точке а Е А называется множество Тдн2(А; а) = Тдн1(А; а) Q Тдв1(А; а).

Определение 3. Вторым асимптотическим верхним касательным конусом ко множеству А в точке а Е А называется множество Тдв2(А; а) = Тдні(А; а) + Тдв1(А; а).

Аналогично работе [8] доказывается

Теорема 1. Конусы Тлн1(А; а), Тлн2(А; а), Тлв1(А; а) и Тдв2(А; а) выпуклы и замкнуты. При этом справедливы включения

Тдні(А; а) С Тн(А; а), Тдві(А; а) С Тв(А; а),

^Тс ^(А;^{а) С Т}дн2^(А;^{а) С Т}дн 1^(А;^{а) С Т}дв2^(А;^{а) С Т}в^(А;^а), причем включения могут быть строгими.

Последнее утверждение продемонстрируем на примере.

Пример 1. Рассмотрим множество А = epi/ = {(ж, у) Е R² | у >  /(ж), ж Е [—2, 2]}, т.е. А есть надграфнк некоторой функции /. Здесь функция /(ж) = 0 при всех ж Е [—2, 0]

и /(2) = —2. На отрезке [0, 2] функция / является непрерывной ломаной линией, заключенной между лучом у = —х и лучом у = — tg^/W) х при х >  0. При этом отрезки каждой ломаной имеют одинаковые по абсолютной величине углы наклона к оси 0х, равные arctg 10, причем при моно тонном убывании х от 2 до 0 знаки величин углов чередуются, начиная с минуса. Введем обозначение

К (а, /3) = {(х, у) Е R² | х = г cos р, у = г sin р, г >  0, р Е [а, /3 ]}.

Тогда касательные конусы ко множеству А в точке а = 0 удовлетворяют равенствам: Т_н (А; 0) = К (—тг/10,тг), Т_в (А;0) = К (—тг/4,тг), Тан 1(А;0) = Тав 2 (А;0) = К (0, 9тг/10), Тан 2(А;0) = Тав 1 (А;0) = К (0, 3г/4) и Т_с (А;0) = К (arctg10,r — arctg10).

В дальнейшем для краткости каждый касательный конус будем обозначать общим символом ^(А; а), где индекс L соответственно принимает одно из значений {В, Н, С, АН 1, АН 2, АВ1, АВ2}.

3.    Производные от многозначных отображений

Для каждого касательного конуса, следуя [6,7], можно определить соответствующую производную от многозначного отображения, которую будем называть аналогично названию конуса, т.е. верхней (В), нижней (Н), Кларка (С) и т.д. производной.

Определение 4. Пусть L Е {В, Н, С, АН 1, АН 2, АВ1, АВ2}. L-производной от отображения F: X ^ Р(У) в точке г = (х, у) Е graphF С У = X xY называется отображение D _l F (г) : X ^Р(Y) вида D _l F (г)(п) = {г Е Y | (п, г) Е Т_L(graphF; г)}, п Е X.

Как обычно, определяем domDLF(г) = {п Е X | D_BF (г)(п) = 0}.

Из определения 4 и теоремы 1 получаем для V п Е X включения

DcF (г)(п) С Dah 2F (г)(п) С Dah i F (г)(п) С Dab 2 F (г)(п) С DbF (г)(п),      (1)

Dab i F (г)(п) С Dab 2 F (г)(п), Dah i F (г)(п) С DhF (г)(п) С DbF (г)(п).

Напомним некоторые свойства производных многозначных отображений.

Предложение 1. Для отображения F: X ^ Р(Y) в точке го = (хо,уо) Е graphF верхняя, нижняя производные и производная Кларка удовлетворяют равенствам

DbF(го)(п) = {г Е Y | liminf qy(v, A-1(F(хо + Ах) — уо)) = 0},(2)

А,ж:

Аф0,ж —— u

DhF(го)(п) = {v Е Y | lim(liminf qy(г, А-1 (F(хо + Ах) — уо))) = 0},(3)

Д^о х^н

DcF (го)(п) =    liminf   (limsupA-1(F (х + Ап) — у)).(4)

А,(^,у):          Й^И graphF Аф0, (т,у)  — го

Для отображения F: X ^ Р(Y), точки го = (хо,уо) Е graphF и произвольных чисел а1 > 0. а2 > 0 определим отображение (где а = (а1,а2)):

F_a : В^ (хо) ^Р(Y), ДДх) = F(х) П В_а2(уо).                   (б)

Предложение 2. Для отображений F: X ^ Р(Y) и F_a; X ^ Р(Y) из (5) при всех L Е {В,Н, С, АН 1, АН2,АВ1,АВ2} справедливы равенства

D_lF (го)(п) = D_LF_a(го)(n), Vn Е X.

Определение 5. Отображение F: X ^ Р(Y) называется псевдолипшицевым [16] около точки го == (хо,уо) Е X x Y. если существуют числа. а1 > 0. а₂ > Q(уо,F(хо)) и число Z > 0 такие, что для всех х1,х2 Е В_а1 (хо) справедливо включение

F(х1) рВа2(уо) С F(х2) + ^^х1 — х2^В1(0).

Если в определении 5 «2 = +то, то отображение F называется липшицевим в окрестности точки жо-

Предложение 3. Пусть отображение F: X ^ Р(У) псевдолипшицево около точки го = (жо,уо) G graphF. Тогда для любого n G X справедливы формулы

Db F До)(п) = limsup A^-1(F(жо + An) - уо),                      (6)

Афо

D_HF (го)(n) = liminf A^-1(F(жо + An) - уо),                      (7)

А^о

Dq Ғ (го)(n) =    liminf    A^-1(F (ж + An) — у)).

A^,(e,y^): graphF АГ0, (e,y)  ^ z q

Приступим к вычислению новых производных.

Предложение 4. Для отображения F: X ^ Р(У) в точке го = (жо,уо) G graphF первая асимптотическая нижняя (первая асимптотическая верхняя) производная вычисляется по формуле

DAhiFДо)(п) =     Q    [DhFДо)(п + n) - DhFДо)(П)], tZEdomDy F (zq)

( Dab i F (го)(n) =     Q      [Db F (го)(n + n) - Db F До)(П)]).

uEdomDgF ( zq )

Теорема 2. Пусти отображение F: X ^ T (R^m) удовлетворяет условию псевдолипшицевости в точке го = (жо, уо) G graphF с константой Z > 0. Тогда множества Db F (^ о )(п) не пусти при всех n G X, а отображение n ^ Db F(го)(n) удовлетворяет условию Липшица с той же константой Z >  0.

Доказательство. По определению 5 найдутся числа «1 > 0 и «2 > 0 такие, что отображение F удовлетворяет условию псевдолипшицевости в точке графика го = (жо,уо) на множестве В _а1 (жо). Пусть n G X и 5 > 0 такие, что 5||n|| 6 «1. Для всех A G (0, 5) определим функцию по формуле y(A) = y(уо,F(жо + An)). В силу псевдолипшицевости получаем включения уо G ДДжо) С F (жо + An) + AZ|n|B1(0). из которых следует, что y(A) < AZ|n|. Выберем произвольную точку /(A) из непустого множества

F(жо + An) П (уо + y(A)Bi(0)).

Получаем следующие неравенства:

II/(A) — уоН 6 P(A) 6 ZAllnll, откуда следует неравенство A-1|/(A) — уо| 6 Z|n| при всех A G (0,5). Следовательно, существует последовательность Ak / 0 такая, что поеледовательность nc = A-1(/(Ak) — уо) сходится к некоторому вектору п. Так как nc G A-1(F(жо + Akn) — уо), то получаем, что n G DbF(го)(n). Итак. domDBF(го) = X.

Пусть теперь n1,n₂ G X и n1 G DbF (го)(n₁). Докажем, что существует n₂ G Db F(го)(n₂) такой, что ||п₂ — щ|| 6 Z|n₂ — пД. Это и будет означать выполнение условия Липшица для отображения n ^ Db F(го)(n). Пусть число 51 > 0 таков*>. что 5i|ni| 6 «1. 5і|п2і 6 «1. 51|n1| 6 «2. При каждом A G (0,51] определим ^(A) = р(уо + An1, F(жо + An2)), а также ^(A) как проіізволвнуто точку из множества F(жо + An2) П (уо + An1 + y(A)B1(0)). Так как П1 G DbF (го)(n₁). то сутпествуют A^ / 0 ii w^ G A^-1(F_a(жо + A^n1) — уо) такие, что lim^ ,^ пс = П1. Т.е. справед.ті ibbi включения уо + A^w^ G Д^(жо + A^n1) при всех k G N. Тогда в силу псевдолипшицевости уо + AcП1 G

^{G A}k ⁽ⁿ1 ^{— w}k ) ⁺ Т«^(жо ^{+ A}k ⁿ1) ^{С F (ж}о ^{+ A}k ⁿ2) ^{+ A}k ^(|n1 ^{— w}k h ^{+ Z|n}1 ^{— n}2^|)B1⁽⁰⁾.

Отсюда получаем неравенство ^(Л/г) < Л»(|«₁ — w^|| + Z | u ₁ — и₂|). В итоге получаем включения

Следствие 1. Пусть отображение F: X ^ Р(R^m) и точка zo = (жо, Уо) таковы, что график graphF является локально замкнутым и локально выпуклым множеством в точке zo € graphF. причём жо € domF. Тогда для любого и € X миоокгестоа D-FДо)(и). V L € {В,Н, С, АН 1, АН2, АВ1, АВ2} непусты, равны между собой, вычисляются по формулам (6) или (7), а отображение и ^ D-F(zo)(u) удовлетворяет условию Липшица.

4.    Эпи- и гипопроизводные функций

На основе определённых в п. 1 касательных конусов можно вводить различные аппроксимации произвольных функций. Для этого мы введём понятия L-производных скалярной функции f: X ^ R по направлениям и L-субдифференциалов этой функции по аналогии с тем, как это делали Р.Т .Рокафеллар [17], Ф. Кларк [18] для касательного конуса Кларка, а также Ж.-П. Обен [6] для контингентного (т.е. верхнего касательного) конуса.

Напомним, что эффективным множеством скалярной функции f: X ^ R1 (где R1 = = R1 [J{±to}) называется множество domf = {ж € X | f(ж) = ±^}, надграфиком («эпиграфиком») функции f: X ^ R1 называется множество epif = {(ж, а) € X х R | а > f (ж), ж € domf}, подграфиком («гипографиком») функции f: X ^ R1 называется множество hypof = {(ж, а) € X х R1 | а 6 f (ж), ж € domf}.

Определение 6. Для всякой функции f: X ^ R¹ и для всякого L € {В, Н, С. АН 1, АН2. АВ1 АВ2} L-эпішропзводііой (L-гішопропзводпой) функции f: X ^ R¹ в точке жо € domf по направлению и € X называется величина

D+f (жо)(и) = inf {а € R1 | (и, а) € T-(epif; (жо, f (жо)))},

(D^-f (жо)(и) = sup{а € R¹ | (и, а) € T-(hypof ;(жо,f (жо)))}).

Отсюда и в силу полученных ранее формул (2), (3), (4) получаем

D+f(жо)(и) = liminf A-1(f (жо + Ли) — f(жо)),

А^о.н^н

D+f (жо)(и) = limsup(liminf Л ¹(f (жо + Ли) — f (жо))), АЩ      " '"

D+f (жо)(и) =  limsup Л 1(f (ж + Ли) — f (ж))).

Х,х,й:

Аф0,й— Hi^c —>^о

Если же функция f: X ^ R1 является липшицевой в окрестности точки жо, то в силу предложения 3 формулы для эпипроизводных этой функции принимают вид

^DB^{f (ж}о^)(и) = liminf ^{Л 1(f (ж}о ^{+ Ли) — f (ж}о⁾⁾,                      (8)

Dyf (жо)(и) = limsup Л 1(f (жо + Ли) — f (жо)), АЩ

Dp/ (жо)(и) = limsup А 1(/(ж + Ап) — / (ж)),                    (10)

• А, х:

Аф0,ж—>xq причем первые две хорошо известны в теории функций под названием нижней и верхней производных Дини (см., например, [5]).

Замечание. В случае, когда эпипроизводные функции по данному направлению и совпадают, т.е. Dp /(жо)(и) = DH /(жо)(и), говорят, что существует классическая производная функции по направлению, которую обозначают /‘(жо, и) = lim А^-1 (/(жо+Аи)—/(жо)).

АЩ

Например, у любой выпуклой функции в точке жо G dom/ существует (быть может, равная ±то) классическая производная по любому направлению.

Полагая, что функция /: X ^ R¹ удовлетворяет условию Липшица в окрестности точки жо G dom/. вычислим значения эпипроизволных D+_H 1/(жо)(и). D+_B1f (жо)(и). D+н 2/(жо)(и), D+_B2 / (жо)(и) и сравним их с гипопроизводными.

В силу того, что надграфик отображения D+н 1/(жо) : X ^ R¹ является выпуклым замкнутым конусом, представимым по определению 1 в виде разности Минковского нижнего касательного конуса (ко множеству epi/) с самим собой, и так как нижний касательный конус к epi/ является надграфиком функции и ^ DH/(жо)(и), то, следуя работе [12], получаем, что функция и ^ D++H1/(жо)(и) является «эпиразностью» функции и ^ DH/(жо)(и) с собой, и в силу предложения 4.8.1 из [12] получаем формулу

• ^D+H1^{/ (ж}о^)(и) = ^SUP^(DH^/(жо^{)(и + ш ) — D}H^/(жо^)(ш)),              (^п)

wEX т.е.

D+_H1/(жо)(и) = sup {limsup(А^-1(/(жо + А(и + ш)) — / (жо))) — wEX  АЩ

• — limsup(А^-1(/(жо + Аш) — /(жо)))} <

АЩ

• < sup{limsup(А^-1(/(жо + А(и + ш)) — /(жо + Аш))) } .                (12)

wEX  АЩ

Последняя верхняя оценка для D+H 1/(жо)(и) является выпуклой и положительно однородной функцией, задающей иную аппроксимацию функции /. Эта аппроксимация была получена Ж.-П. Пено (J.-P. Penot) в работе [19], в силу чего функцию

Dp/ (жо)(и) = sup {limsup(А^-1(/(жо + А(и + ш)) — / (жо + Аш))) }          (13)

wEX АЩ называют Р — эпипроизводной или эпипроизводной Мишеля-Пено от липшицевой функции / в точке жо по направлению и.

Кроме того, формула (13) означает, что для любого числа е >  0 найдете я точка ш_е G X такая, что справедливы неравенства

Dp/(жо)(и) < limsup(А^-1(/(жо + А(и + ш _£ )) — /(жо + Аш _£ ))) + е =

АЩ

= lim sup (і ^{- 1} (/ (жо + іш_£ + іи) — /(жо + іш _£ ))) + е <

АЮ о<і<А

• < lim sup sup     (і ^{- 1} (/(ж + іи) — / (ж))) + е = Dp/(жо)(и) + е.

• ^А4^о о<1<А ||я—яо||<А||ш_е||

В силу произвольности е > 0 и из (12) получаем, что

DpHi/(жо)(и) < Dp/(жо)(и) < Dp/(жо)(и), V и G X.               (14)

Аналогично тому, как получили формулу (11), получаем формулу для D++pi/(жо)(и) вида

D+B1/(жо)(и) = sup(Dp/(жо)(и + ш) — Dp/(жо)(ш)),               (15)

wEX откуда следует, что

D+_B1/ (жо)(н) = ^SUP{lim inf(X^-1(./(жо + A(h + w)) - /(жо)))-wex М⁰

- liminf(A 1 (/(жо + Aw) - /(жо)))} < л+о

< sup{limsup(A 1(/(жо + A(h + w)) - /(жо + Aw)))} = Dp/(жо)(н).        (16)

wex   л+о

Последнее неравенство следует из того, что для любых функций д, Һ справедливо неравенство liminf(g(A) + ^(A)) < liminf g(A) + limsup^(A).

л+о                        л+о              л+о

Из определения 2 конуса Tah 2 (И; а) немедленно следует формула

^D+H2^{/ (ж}о^)(н) = max^+Hi^ (ж^нУ^+в^ ^(жо^)(н)).

Из неравенств (14),    (16) и формулы (17) получаем неравенство:

^D+_H 2^/(жо^)(н)<  ^Dp^{/ (ж}о^)(н)-

Опишем теперь эпипроизводную DAb 2 / (жо)(н). По определению 3 надграфик этой функции н ^ D+B2/(жо)(н) является суммой Минковского двух выпуклых конусов, каждый из которых является надграфиком некоторой выпуклой функции. Получаемая таким образом функция в выпуклом анализе называется инфималъной конволюцией (см., например, [20]). Первая из двух функций есть функция н ^ D+H1/ (жо)(н), а вторая н ^ D+ві/ (жо)(н). Используя свойства инфимальной конволюции, получаем, что значения D+B2/ (жо)(н) вычисляются по формуле

DAB2/(жо)(н) = inf (D+B1/(жо)(у) + D+H1/(жо)(н - ж)).(

^ex

Аналогично вычислению эпипроизводных для липшицевой функции /: X ^ R получаются формулы для ее гипопроизводных.

DB/(жо)(н) = limsupA 1(/(жо + Ah) -/(жо)),(19)

л+о

DH/(жо )(н) = liminf A 1(/(жо + Ah) -л+о - У(жо)), (20) Dc/(жо)(н) = liminf A-1(/(ж + Ah) A,x: Аф0,х—>^o -/ (ж)), (21) dah 1/(жо)(н) = inf (DH/(жо)(н + w) -DH/M(w)) >(22)

wex

> inf {liminf(A-1(/(жо + A(h + w)) -/(жо +Aw)))} = D-/(жо)(н),(23)

wex   л+о причем последняя формула задает Ғ-гипопроизводную (или гипопроизводную Мишеля-Пено) этой функции в точке жо по направлению н, которая была введена Ж.-П. Пено в работе [19]. Аналогичным образом получаем

DAH2 / (жо)(н) =min(DAH1/(жо)(н);DAB1/(жо)(н)),(24)

DAB2/(жо)(н) = sup(DAB1/(жо)(ж) + DAH1/(жо)(н - у)), -uex где dAB1/(жо)(ж) = inf (DB/(жо)(г + w) - DB/(ж0)(w)) > DP/(жо)Су),(25)

wex так как для любых функций g, Һ справедливо неравенство limsup(g(A) + ^(A)) > limsupg(A) + liminf h(X). л+о                         л+о              л+о

Из выражений (23), (24) и (25) следует, что D—н2f (х о )(п) >  Dpf (х о )(п) при всех n G X.

Лемма 2. Для любой функции f: X ^ R¹, липшицевой в окрестности точки хо G domf. и для любого L G {С,Р,АН 1,АН 2, АВ1,АВ2} каждая функция n ^ D+ f (х о )(п) (или функция n ^ D—f (х о )(п)) является положительно однородной и выпуклой (или вогнутой) функцией.

Доказательство очевидно следует из того, что надграфик (или соответственно подграфик) этой функции является выпуклым конусом.

Лемма 3. Для липшицевых функций их эпи- и гипо-производные по любому направлению n G X удовлетворяют равенствам

DHf (жо)(п) = DB f (жо)(п), D+f (жо)(п) = DHf (хо)(п),(26)

D+hif (хо)(п) = —D^Bif (хо)(—n), D+bif (хо)(п) = —Dah^f (х0)(—п),(27)

D+f (жо)(п) = —DL f (хо)(—n) VL G {С, Р, АН2, АВ2}.(28)

Доказательство. Первые два равенства в (26) очевидно следуют из формул (8), (9), (19) и (20). Из формул (И) и (25) легко получаем левое равенство (27), а из формул (15) и (22) легко получаем правое равенство (27). Из формул (10) и (21) для любого n G X, делая 'замену у = х + An. докажем равенство в (28) при L = С:

D+f (xo)(n) = limsup A^-1(f(х + An) — f(х)) = — liminf A^-1(f(х) — f(х + An)) = X,x:                                                            ^X,x:

ХЮ,х^х0                                      X^0,x^xo

= ^— liminf ^A-^1(f(y ^{— An) — f}(у)) = ^{—D-f (х}0^)(—n). A,y:

АфО,г/^Х0

Аналогично проверяются равенства в (28) при остальных L.

Определение 7. Для любого L G {Н,В,С,АН 1, АН2, АВ 1, АВ2,Р } скажем, что L-эппсубдііффсрснтщалом (Lninocy6 дифференциал ом) функции f: X ^ R¹ в точке хо G domf называется следующее множество в сопряжённом с X пространстве X *:

dL f (хо) = {р G X * | (р,х) 6 D+f (х_о)(х), V х G X, },

^{(d-f (}хо) = ^{р ^{G X} * ^{1 (}р,х) > ^{D-f (}хо⁾⁽х⁾, ^Vx ^{G X })}.

Теорема 3. Для липшицевых функций их субдифференциалы удовлетворяют равенствам:

дс f (хо) = Э_с f (хо), д^ f (хо) = д-f (хо), дАн if (хо) = d-Bif (хо),        (29)

^dAB1^{f (х}о) = ^дАН 1^{f (х}о), ^dAH2^{f (х}о) = ^дАН 2^{f (х}о), ^дАВ2^{f (х}о) = ^dAB2^{f (х}о).      (³⁰)

Доказательство. Равенства (29) и (30) легко следуют из равенств (28) и (27). Покажем это на примере субдифференциала Кларка:

дСf (хо) = {р G X * | (р,х) 6 D+ f (хо)(х), Vx G X} =

= {р G X * | (р, х) 6 -D_cf (х_о)(—х), Vx G X } =

= {р G X* | (р, —х) > D_cf (хо)(—х), Vx G X} = d_cf (хо).

Замечание. Из леммы 3 и теоремы 3 следует, что для изучения аппроксимаций .липшицевых функций достаточно ограничиться рассмотрением лишь эпипроизводных и эписубдифференциалов этих функций.

Теорема 4. Для липшицевых функций справедливы соотношения х > DCf(хо)(п) > D^f(хо)(п) > DAh2f(хо)(п) >

> ^DAh 1^{f ( х} о ^{)( п )} >  ^DAB2^{f ( х} о ^{)( п )} > ^DB^{f ( х} о ^{)( п )} > ^—х.

д+f (жо) D dpf(жо) D д+_н2f (жо) D д+_н 1/(жо) D a+_B2f (жо),             (32)

причем каждая эпипроизводная и каждый эписубдифференциал являются различными объектами, т.е. каждое из неравенств и каждое из включений могут быть строгими.

Доказательство. Неравенства (31) следуют из включения (1) и выражений (12) -(18), (23). Из неравенств (31) очевидно следуют включения (32). То, что эти неравенства и включения могут быть строгими, покажем на примерах 2 и 3.

Пример 2. Рассмотрим непрерывную функцию / : [—2, 2] ^ R1, описанную в приме ре 1. Из решения примера 1 получаем, что

D+f (0)(и) = 10|и|, V и Е R¹; D+нif (0)(и) = 0, и > 0, Dp^f (0)(u) = — ИTU )u, и < 0; D+н 2/ (0)(u) = 0, и > 0, D + h 2/(0)(и) = |и|, и < 0; О + в 1 / (0)(и) = D+н2/(0)(и), V и Е R¹; D + b 2 / (0)(и) = D+н 1 f (0)(и), V и Е R¹.

Пример 3. Рассмотрим функцию f : [—1,1] ^ R¹ такую, что f (ж) = 0 пр и ж Е [— 1, 0] и f (1) = —1. На отрезке [0,1] функция f является непрерывной ломаной линией, заключенной между лучами у = ж и у = —ж, вида f (ж) = ( —1)^/+1(10ж — 9ж/) при всех ж Е [ж/+₁; ж/], где ж_г = (Ц- )^к и к = 0,1, 2,...

Для указанной функции легко получаем, что Dpf (0)(и) = 10|и|, V и Е R¹;

D1h 1 / (0)(и) = и, V и > 0, D + h 1 f (0)(и) = 0, V и < 0; D^f(0)(и) = 0, V и > 0,

D+_B1f(0)(и) = |и|, V и < 0; D+_H2f(0)(и) = |и|, V и Е R¹; Dj+_B2f (0)(и) = 0 V и Е R¹.

В примерах 2 и 3 также справедливо равенство D+ f(0)(и) = Dpf(0)(и), V и Е R1, которое не совсем очевидно. Докажем его для примера 3. Покажем, что для каждого и Е R1 можно подобрать точку w и последовательность An ^ 0 так, чтобы точки An(u + w) и Anw при каждом п Е N лежали на одном отрезке ломаного графика функции f.

Если и >   0, то выбираем w и An >   0 из решения уравнений:

An(u + w)  = ж2п+1, A_nw = ж2п+2, т.е. А_п =  9Д2П+2; w =  2и. При этом

D+f(0)(и) > lim A-¹(f(0 + An(u + w)) — f(0 + A_nw)) = lim A-¹^2n+1 + ж2п+2) = 10и = n^^                            n^^

= D+f (0)(и).

Если и   <   0,  то выбираем  w и A_n   >   0 из  решения  уравнений:

An (и + w)  = ж2п+1, Anw = ж2п,  т.е. An =  Д2р|ж2п; w  =  ^ |и|.  При этом

D+f(0)(и) > lim A-¹(f(0 + An(и + w)) — f(0 + Anw)) == lim A-¹(ж2n+1 + ж2п) = 10|и| = n^^                              n^^

= Dpf(0)(и). Учитывая, что обратное неравенство (14) всегда справедливо, получаем требуемое равенство.

То, что эпипроизводные Кларка и Пено могут отличаться, т.е. возможно строгое неравенство Dpf(0)(и) >  Dpf (0)(и), покажем в следующем примере.

Пример 4. Рассмотрим функцию f : [—1, 2 ] ^ R1 такую, что f (ж) = 0 пр и ж Е [—1, 0] и f (2) = 4. На от резке [0, 2 ] функция f является непрерывной ломаной линией, заключенной между параболой у = —ж2 и параболой у = ж2. При этом каждый отрезок ломаной имеет одинаковый по абсолютной величине угол наклона к оси 0ж, равный 4, причем при монотонном убывании ж от 2 до 0 знаки величин углов чередуются, начиная с плюса.

Пусть (жо,ж2) = (1/2,1/4) — начальная верхняя угловая точка графика функции f, а (ж_п,жП), п Е N, — следующие по порядку справа налево верхние угловые точки графика функции f. Очевидно, что lim ж_п = 0. Пусть Д_п, —^П), п Е N, — все нижние угловые п^^

точки графика функции f, причем z_n Е [ж_п,ж_п-1], Vn Е N. Для всякой точки ж_п точка z_n+₁ вычисляется по формуле z_n+₁ = (1/2)(—1 + ^ 1 + 4ж_п — 4жП) = ж_п — 2жП + о(жП). т.е.

жп — 2n+1

^ жп

— о(жП). Аналогично получаем жп+1 = (1/2)(—1 +

У^+^^+Г-^^П+х) =

= ^п+1 — 2д2₊₁ + о(дП₊₁), Т.е. Zn+1 — жп+1 = 2д2₊₁ — о(дП₊₁). Тогда для любого и = 0, любого w Е R¹ II A_n ^ 0 получаем, что

lim A_n¹(f(0 + An(и + w)) — f(0 + Anw)) < lim A^A^u + w)² + Anw²) = 0, n^^                            n^^

а при w = 0 11 An = (|и| 1)жп полмчаем. что lim An1(f (Anu) — f (0)) = 0. В результате n^^

доказали, что D+f (0)(и) = 0, V и Е R1.

В свою очередь по формуле (10) для любого u > 0, выбирая последовательности An = (1/u)(xn — zn+1) ^ 0 и zn+1 ^ 0, получаем, что lim A-1(f (Zn+1 + Anu) - f (^n+1)) = lim — n^^                        n^^ Xn

u

-

zn+1

^(xn + ^+1)    'll.

Аналогично, для любого u < 0, выбирая последовательности An = (1/|u|)(zn+1 — xn+1) ^ 0 и zn+1 ^ 0 получаем, что lim A-1 (f (zn+i + Anu) - f(zn+i)) = lim ----

I! >^                                 n^^ ^n+1

|u|

-

(Xn+1 + ^n+1)    |u|.

Xn+1

В итоге доказали, что Def (0)(u) = |u|, V u E R¹.

Теорема 5. Пусть функция f: X ^ R¹ удовлетворяет условию Липшица в некоторой окрестности точки x q с конетантой Z >  0. Тогда для любого L E {С,Р,АН 1,АН2, АВ1,АВ 2} функция u ^ D+f (x q )(u) (u ^ D— f (x q )(u )J является положительно однородной, выпуклой (вогнутой), конечной при всех u E X и удовлетворяюгцей условию Липшица на мнооіссстос X с той nice константой Z >  0.

Доказательство. Положительная однородность и выпуклость функции u ^ D+f (xo)(u) следуют из вита, ее палграфика. Определим отображение F (х) = {у E R¹ | у >  f (х)}, и пусть число а >  0 таково, что функция f (•) удовлетворяет условию Липшица на множестве B_a(xo) с конетантой Z >  0. Выберем произвольную точку u E X, u = 0. Тогда для любых точек (х,у) E epif таких. что \х — x q \ 6 2- и чисел A E ^0, 2д) справедливы неравенства

f (x + Au) 6 f (x) + ZA\u\ 6 у + AZ\u\.

Это означает, что Z||u\| E A^-1(F (x + Au) — у), что в силу предложения 3 эквивалентно включению Z\u\ Е De F (x q ,/ (x q ))(u ), или в иной записи — неравенству Z\u\ >  D^f (x q )(u ).

С другой стороны, опять же из условия Липшица для всех A E ^0, 2Лф) имеем неравенство —Z||u|| < A^-1 (f (xq + Au) — f (xq )). Поэтому ,тля любых е >  0 іі A Е (о, 2д) получаем

q(—Z\\u\\ — е, A 1(F(xo + Au) — f (xq))) > е, что в силу равенства (6) означает — Z\\u\\ — е E DbF(xo,f(xq))(u), или в иной записи — неравенство — Z\\u\\ — е < D+f(xo)(u). В силу произвольности числа е > 0 и из неравенств (31) получаем для любого u EX неравенство

|D+f(xo)(u)| 6 Z\u\, VL E {С,Р, АН 1,АН2,АВ1,АВ2}.

Перепишем последнее неравенство для произвольных u1, u2 EX в виде

|D+f(xo)(u2 — u1)| 6 Z\u2 — u1\.                               (33)

Так как функция u ^ D+f (xo)(u) выпукла и положительно однородна, то получаем

• —D+f(xo)(u2 — u1) 6 D+f(xo)(u1) — D+f(xo)(u2) 6 D+f(xq)(u1 — u2).       (34)

5. Производные функций, представимых в виде разности двух выпуклых функций

Объединяя неравенства (33), (34), получим утверждение теоремы.

В этом параграфе исследуется класс локальнолипшицевых функций, представимых в виде разности двух выпуклых функций. Как известно из выпуклого анализа (см., например, [12]), у таких функций существуют классические производные по направлениям.

Лемма 4. Пусти функция /: X ^ R¹ в точке хо G dom/ имеет конечную классическую производную по направлениям, т.е. справедливо равенство

/‘(хо,п) = DH / (х о )(п) = Dp / (х о )(п), Vn G X.                   (35)

Тогда L-эпипроизводные Dp / (х о )(п) при L G {АН 1, АН2, АВ1, АВ2, Р } совпадают между собой при каждом n G X, и для них справедлива формула

D+/ (х о )(п) = sup(f‘(xo,n + w) -/‘(хо, w)).                     (36)

wGX

Доказательство. В силу общих соотношений (31) достаточно доказать, что

D+H 1/ (х о )(п) = D+/ (хо)(п), V n G X.

Из формул (11) и (35) получаем формулу D+H1/ (х о )(п) = sup(/‘(хо,n + w) — /‘(хо/w)). weX

Из свойств предела имеем

/‘(хо,n + w) - /‘(хо, w) = limA 1(/ (хо + A(n + w)) - /(хо))-А/о

— limA 1(/(хо + Aw) — / (хо))=1imA 1(/(хо + A(n + w)) — / (хо + Aw)). А/о                                   А/о

Отсюда и по формуле (13) следует равенство D+/ (х о )(п) = D+н 1/ (х о )(п).

Теорема 6. Пусти функция /: X ^ R¹ локалинолипшицева в окрестности точки хо G X и представима в этой окрестности в виде разности локалинолипшицевых выпуклых функций, т.е. /(х) = /1(х) — /₂(х), где /1,/₂ : В_е(хо) ^ R¹ — ограниченные выпуклые функции, причем для заданного n G X одна из функций /к , k G 1, 2, удовлетворяет равенству /к (хо,п)+ /к (хо, —n) = 0 (например, одна из функций /к дифференцируема в точке хо по Гато). Тогда все L-эпипроизводпыс Dp / (х о )(п) при L G {АН 1,АН2, АВ1, АВ2, Р, С } совпадают между собой при любом заданном n G X, и справедлива формула

Dp/ (х о )(п) = /1 (х о ,п) + /2 (хо, —n).

Доказательство. Из свойств выпуклых функций следует, что у функций /1, /2 и / = /1 — /2 существуют классические производные по направлениям и

/‘(хо,n) = /1 (хо, n) — /2 (х о ,п).

В силу леммы 4 для любого L G {АН 1,АН 2, АВ1, АВ2,Р } справедлива формула

Dp/ (х о )(п) = sup(/1 (х о ,п + w) — /2 (х о ,п + w) —/1 (хо ,w) +/2 (хо/w)).       (38)

wex

Как известно, функции n ^ /к(хо, n), k G 1, 2, также выпуклы, в силу чего получаем

• / 1 (х о ,п + w) < /1 (х о ,п) +/1 (хо/w),   /2(хо,w) < /2 (х о ,п + w) +/2(хо, —n).    (39)

Отсюда и из (38) получаем, что D^p_H 1/ (х _о )(п) < /1 (х _о ,п) + / 2 (х_о, —n). Чтобы показать, что последнее неравенство является равенством, достаточно, чтобы при некотором w оба неравенства в (39) превратились в равенства. При выполнении условия /1 (х о ,п)+ /1 (хо, —n) = 0 для этого нужно взять w = —n, а при выполнении условия /2 (х о ,п) + /.2(хо, —n) = 0 достаточно взять w = 0.

Покажем, что формула (37) справедлива и при L = С. По определению эпипроизводной Кларка получаем

Dp/ (х о )(п) = limsup (A^-1(/1(х + An) — /1(х) — /2(х + An) + /2(х))) <

А/о, хтхо

• <    limsup (А ¹(/₁(ж + Ап) — /₁(ж))) + limsup (А ¹(/₂(ж) — /₂(ж + Ап))) .     (40)

А-о, х^хо                                    А-о, х^хо

По известному свойству эпипроизводной Кларка для выпуклой липшицевой функции (см. [11], предложение 2.2.7) справедливо равенство Dj/(жо)(п) = /1 (жо,п). Аналогично, делая замену у = ж + Ап, получаем limsup А-1(/2(ж) — /2(ж + Ап)) = lim sup sup А-1(/2(ж) — /2(ж + Ап)) =

А-о,хмхо                                  <Ао ||х-хоП«Ае(О,5)

= lim sup sup А-1(/2(у — Ап) — /2(у)) = D^C^X—п) = /2(жо, —п). |у-хо|«5(1+|и|) Ае(о,5)

В результате из неравенства (40) получили неравенство Djf (жо)(п) < /1 (жо,п) + /2(жо, — п), которое вместе с равенством (37) при L = Р и неравенством (14) завершает доказательство теоремы.

Приведем еще один критерий совпадения всех эпипроизводных функции, представимой в виде разности двух выпуклых функций.

Напомним, что функция h : X ^ R¹ называется положгительно однородной, если для любого ж G X п любого числа, А > 0 справедлив!) равенство һ(Аж) = Аһ(ж). Очевидно, что такая функция имеет классическую производную по направлениям в точке нуль, и справедливо равенство

Һ’(0,п) = һ(п), Уп G X.                                 (41)

Лемма 5. Пусть задана полосисителъно однородная липшицева (быть может невыпуклая) функция h : X ^ R¹. Тогда справедливо равенство всех L-эпипроизводных D+ һ(0)(п). а именно:

D+ һ(0)(п) = sup (һ(п + w) — h(w)), У п G X, yL G {АЯ1, АЯ2, АВ1, АВ2, Р, C }. (42) weX

Доказательство. По определению производной Кларка, из положительной однородности h и из равенств (41) и (36) получаем

D(+h(0)(n) = lim sup sup А-1(һ(ж + Ап) — һ(ж)) =

<Ао Ае(о,<5) |х|<<5

= lim sup sup (һ(п + w) — h(w)) <

<Ао Ае(о,5) |И<5/А

• <    sup(һ(п + w) — h(w)) = sup(h‘(0,п + w) — h‘(0,w)) = D+_{H 1}һ(0)(п). wex                  wex

В силу общих соотношений (31) и, в частности, в силу неравенства D(+h(0)(п) > D++н1h(0)(п) в итоге получаем требуемое равенство (42).

Пусть заданы точка жо G X и число г > 0.

Следствие 1. Пусть заданы две выпуклые ограниченные функции Д : В_Т (жо) ^ R¹, k G 1, 2. Определим функции д^ (ж) = Д(жо) + Д(жо,ж — жо), /(ж) = /₁(ж) —/₂(ж), ж G В_Т (жо) и функцию д(ж) = д1(ж) — д2(ж) при ж G X. Тогда справедливо равенство всех L- эпипроизводных функции д в точке ж_о, причем

D+д(жo)(п) = sup (/‘(жо,п + w) — /‘(жo,w)), Уп G X, yL G {АЯ 1,АЯ2, АВ 1,АВ2,Р,С}. wex

Доказательство очевидно в силу леммы 5, положительной однородности функции һ(ж) = д(жо + ж) —/₁(жо) + /₂(жо) и равсчіства. д‘(жо,п) = /‘(жо,п) = һ(п) при любом п G X.

Для произвольной выпуклой ограниченной функции / : Вг(жо) ^ R1 определелим (])yiiKiiiiii дну по формулам

д(ж) = / (жо) + / ‘(жо, ж — жо),   у (ж) = / (ж) — д(ж),

т.е. функция f в окрестности Вт (жо) точки жо представлена в виде суммы ее квазилинейной части д и остатка р. Очевидно, что функции д и р в точке жо имеют классические производнвіе по направлениям, причем д‘(жо,п)= f‘(жо,п), р‘(жо,п) = 9 V n G X,                     (44)

откуда в силу выпуклости функций f и д, а также по формуле (36) получаем равенства

D^f(жо)(n) = П^д(жо')(и) = f‘(жо/u), D+H 1р(жо,и) = 0, Vn G X, которые в частности влекут неравенство 0 < Dcр(жо')(n) при всех n G X, что равносильно включению О G Эд р(жо).

Определение 8. Выпуклая ограниченная функция f : В_т (жо) ^ R¹ называется сильно регулярной в точке жо, если для соответствующей функции р из (43) справедливо равенство дСр(ж_о) = {0}, т.е. Dgр(ж₀)(n) = 0 при всех n G X.

Данное определение эквивалентно тому, что функция р регулярна по Кларку в точке жо (см. определение 2.3.4 в [11]). В частности это выполняется, когда функция р выпукла в некоторой окрестности точки жо. Кроме того, в силу оценки

DcP(жо)(n) <  D^f (жо)(п) + Dc(—д^жо)^) = f ‘(жо,п) + д‘(жо, —n) = f ‘(жо,п) + f ‘(жо, —n) получаем, что если для функции f справедливо равенство f‘(жо,n) + f‘(жо, —n) = 0 при всех n G X. то функция f сильно регулярна в точке жо. В частности. если функция f дифференцируема по Гато в точке жо, то она сильно регулярна.

Теорема 7. Пусть функция f : X ^ R¹ представима в виде разности двух выпуклых сильно регулярных в точке жо и ограниченных на В_Т (жо) функций f1 и f₂, т.е. f = f 1 — f₂. Тогда справедливо равенство эпипроизводных:

D+f (жо)(n) = D+f (жо)(п), V n G X, VL G {P, AH 1, AH2, АВ1, АВ2}, что равносильно равенству всех субдифференциалов 9gf(жо) = ... = 8+B2f (жо).

Доказательство. Для каждой функции f^ определим функции д^ и р^ по формулам (43). Определим также следующие функции д = ді —д₂ и р = рі —р₂. Тогда справедливо равенство f = д + р. причем f ‘(жо,n) = g‘(жо,n) и р’ (ж о ,п) = 0 при всех n G X. По следствию 1 справедливо равенство D ^ h ₁g(жо)(n) = D^H1f (ж о )(п) и D ^ h ₁ р(ж о )(п) = 0 < Dдр(жо)(n). По свойствам производной Кларка для функции р = рі + (—р2) и в силу сильной регулярности функций fi и /2 получаем

D+ р(ж о )(п) < D+рі(жо)(n) + D⁺ (— р 2 )(ж о )(п) = D+р1(жо)(n) + D+р2(жо)(—n) = 0, т.е. Dgр(жо)(n) = 0 при всех n G X. Отсюда и в силу свойства производной Кларка для суммы функций получаем

^Dc^{f ( ж} о ^{)( п )} <  ^д^о^Н ^DcP^(жо⁾⁽ⁿ⁾ = ^DAH1д^(жо^{)(n) + О} = ^d a h 1 ^{f ( ж} о ^{)( п )} <  ^Dc^f ( ^ж о )( ^п )> что вместе с леммой 4, примененной к функции f, завершает доказательство теоремы.

Работа выполнена при поддержке РФФИ, грант 10-01-00139а и ФЦП «Научные и научно-педагогические кадры инновационной России».